协方差与不相关

协方差（Covariance）度量两个随机变量之间的线性相关性。

定义

设$(X,Y)$是一个二维随机变量，若$E\left[(X-E(X))(Y-E(Y))\right]$存在，则称此数学期望为$X$与$Y$的协方差，或称为$X$与$Y$的相关（中心）矩，并记为
$$\mathrm{Cov}(X,Y)=E\left[(X-E(X))(Y-E(Y))\right].$$其中，$E[X]$和$E[Y]$分别是$X$和$Y$的期望。特别有$\mathrm{Cov}(X,X)=\mathrm{Var}(X)$。

从协方差的定义可以看出，它是$X$的偏差 “$X-E(X)$” 与$Y$的偏差 “$Y-E(Y)$” 乘积的数学期望。

由于偏差可正可负，故协方差也可正可负，也可为零：

• 当$\mathrm{Cov}(X,Y)>0$时，称$X$与$Y$正相关，这时两个偏差$(X-E(X))$与$(Y-E(Y))$有同时增加或同时减少的倾向。由于$E(X)$与$E(Y)$都是常数，故等价于$X$与$Y$有同时增加或同时减少的倾向，这是正相关的含义。

• 当$\mathrm{Cov}(X,Y)<0$时，称$X$与$Y$负相关，这时有$X$增加而$Y$减少的倾向，或有$Y$增加而$X$减少的倾向，这是负相关的含义。

• 当$\mathrm{Cov}(X,Y)=0$时，称$X$与$Y$不相关。当协方差为0时，表示两个随机变量之间没有线性关系。

随机过程的自相关或互相关用了相关这个词，却与相关性的概念不同。

相关比较通俗，各个学科都喜欢用，学科交叉后就会产生混淆。