covariance



在 概率论 和统计学中，协方差用于衡量两个变量的总体误差。而 方差 是协方差的一种特殊情况，即当两个变量是相同的情况。  

期望值分别为E[X]与E[Y]的两个实随机变量X与Y之间的协方差Cov(X,Y)定义为

从直观上来看，协方差表示的是 两个变量总体误差的期望。

如果两个变量的 变化趋势一致，也就是说如果 其中一个大于 自身的期望值时 另外一个 也大于 自身的期望值，那么两个变量之间的协方差就是正值；如果两个变量的 变化趋势相反，即 其中一个变量大于自身的期望值时另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。

如果 X与 Y是统计独立的，那么二者之间的协方差就是0，因为两个独立的随机变量满足 E[ XY]= E[ X] E[ Y]。

但是，反过来并不成立。即如果 X与Y的协方差为0，二者并不一定是统计独立的。

协方差 Cov( X, Y)的 度量单位是X的协方差乘以Y的协方差。而取决于协方差的相关性，是一个衡量 线性独立的 无量纲的数。

协方差为0的两个 随机变量 称为是不相关的。

重要！！！若两个随机变量X和Y相互独立，则E[(X-E(X))(Y-E(Y))]=0，因而若上述数学期望不为零，则X和Y必不是相互独立的，亦即它们之间存在着一定的关系。

分别为m与n个标量元素的列向量随机变量X与Y，这两个变量之间的协方差定义为m×n矩阵.其中X包含变量X1.X2......Xm，Y包含变量Y1.Y2......Yn，假设X1的期望值为μ1，Y2的期望值为v2，那么在协方差矩阵中（1,2）的元素就是X1和Y2的协方差。