1,导数,偏导,梯度,极限
2,贝叶斯,泊松分布。
3,概率与统计
概率问题:已知全部事件,求某个事件发生的概率
统计问题:采样样本,估计总体。
机器学习与概率统计的关系
训练----统计, 预测----计算概率
1.统计估计的是分布,机器学习训练出来的是模型,模型可能包含了很多分布。
2.训练与预测过程的一个核心评价指标就是模型的误差。
3.误差本身就可以是概率的形式,与概率紧密相关。
4.对误差的不同定义方式就演化成了不同损失函数的定义方式。
几个量:期望,方差,协方差。随机变量的关系。
其他几个概率的定理与不等式:
1,jensen不等式
2,切比雪夫不等式
3,大数定理
4,中心极限定理
5,极大似然估计