协方差
用来衡量两个随机变量的分布之间的总体变化性，经常用来衡量两个随机变量之间的线性相关性，如果两个随机变量的协方差为0，那么称这两个随机变量是线性不相关。
偏差(bias)
偏差度量了学习算法的期望预测与真实结果的偏离程序, 即 刻画了学习算法本身的拟合能力 .
方差(variance)
方差度量了同样大小的训练集的变动所导致的学习性能的变化, 即 刻画了数据扰动所造成的影响 .
马尔科夫性质
指一个随机过程在给定现在状态及过去状态情况下，其未来状态的条件概率分布仅依赖当前状态
马尔科夫链
如果状态空间有限，存在状态转移矩阵，里面的元素表示从状态一转移到状态二的概率