彻底理解协方差矩阵

每个人的思考方式不同， 对于我来说， 第一次看到 “ 协方差矩阵 ” 这个名词 ， 真的不理解。

“ 协” 是什么？ 方差 我也快忘了 , 感觉就剩个矩阵了。

我们一点一点理解：

什么是平均值？

一个向量 x= [1,2,3] ， 我们口算就知道，x平均值就是2

2代表了 这组数据的平均水平就是2

什么是方差？

方差意思是 “波动值”

方差英文是：variance = n. 变异；变化；不一致；分歧；[数] 方差

你再看看方差的计算公式：

这不就是 x中的每个值 都和 平均值 进行一次做差嘛。意思是想求出来 波动大不大。

之所以除以n-1而不是除以n，是因为这样能使我们以较小的样本集更好的逼近总体的标准差，即统计上所谓的“无偏估计”。

也就是说，方差是各个样本与样本均值的差的平方和的均值。

那什么是协方差？

covariance = n. [数] 协方差；共分散

co 英文前缀，意思是 “一起，协同”

有没有感觉了， 协方差就是求 两个变量的变动的同步程度

如果两个变量的协方差为0，则统计学上认为二者线性无关。注意两个无关的变量并非完全独立，只是没有线性相关性而已。

协方差例子：

那协方差矩阵，其实就是 你不仅仅想知道两个变量之间的协方差了，假设有三个的话，我们就得到了