每次看公式用到协方差矩阵时,要跑去网站上看一下协方差矩阵的定义,当然一看就能看明白,可是到了下次再碰到时,不查资料又卡住了,卡在那里令人纠结,这只能说明没有真正理解协方差矩阵。这次顺便做下笔记,加深下理解。
首先要清楚一般出现协方差矩阵时就会出现多维列向量,这里假设为n维,另外既然有协方差字眼,那肯定是一个随机变量。这里假设有d个随机变量x1,x2,x3,…,xd,只不过每个随机变量x又是由n个标量组成的列向量。简单的理解就是说在n维空间中有d个随机的点。现在我们需要求的是关于n维空间中这d个点的协方差矩阵。
用uk列向量表示d个点的平均值,uk中的每一个元素对应d个点中相应维数的平均数。所以协方差矩阵为n*n维的。其每个元素的计算公式如下:
(这个公式是从百度百科上截的,貌似这里的X1,X2,...,Xn和我上面描述的不同,该公式里面指的是由每一维的d个值构成的向量...不管怎样,该博客中文字的描述是正确的)
其数学含义是协方差矩阵的第i行第j列的元素表示为,d个随机变量点中的第i维和第j维的协方差。因为每一维的d个数都可以看做算是一维空间中的d个实数,因此它有自己的平均数和方差,每2维之间也就有协方差。
希望以后不要再卡住了!