协方差

什么是协方差？

首先，这几个数理统计中的概念因该很熟悉了：

• 均值：$\bar{X}=\frac{{\sum }_{i=1}^n{X}_i}{n}$
• 标准差：$s=\sqrt{\frac{{\sum }_{i=1}^n(X_i-\bar{X}{)}^2}{n}}$
• 方差：$s^2=\frac{{\sum }_{i=1}^n(X_i-\bar{X}{)}^2}{n}$

那为什么 还要用协方差呢？那是因为标准差和方差一般是用来描述一维数据的，但是有时候我们遇到的是多维数据，当然，多维数据可以拆开成一维数据那样去统计，但是有时候我需要看不同维度之间数据之间的关系，那么这个时候就要用协方差，即协方差就是一种用来度量两个随机变量关系的统计量。

$cov(X,Y)=\frac{{\sum }_{i=1}^n(X_i-\bar{X})(Y_i-\bar{Y})}{n-1}$

那么：

$cov(X,X)=var(X)$($X$的方差)
$cov(X,Y)=cov(Y,X)$

那么多维数据之间的关系呢？
用协方差矩阵

$C_{n\times n}=(c_{i,j},c_{i,j}=cov(Di{m}_i,Di{m}_j))$

例如三维矩阵

$C=\left(\begin{array}{ccc}cov(x,x)& cov(x,y)& cov(x,z)\\ cov(y,x)& cov(y,y)& cov(y,z)\\ cov(z,x)& cov(z,y)& cov(z,z)\end{array}\right)$

对角线是各个维度上的方差。