Eigen 求协方差矩阵

Eigen 求协方差矩阵

方差和协方差

• 方差：

  方差是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量。概率论中方差用来度量随机变量和其数学期望（即均值）之间的偏离程度。统计中的方差（样本方差）是每个样本值与全体样本值的平均数之差的平方值的平均数。在许多实际问题中，研究方差即偏离程度有着重要意义。-----百度词条

  方差是衡量源数据和期望值相差的度量值。

​ 公式：

​ $$s^2=\frac{{\sum }_{i=1}^n(X_i-\overline{X}{)}^2}{n-1}$$

​ 其中：

​ $$\overline{X}=\frac{{\sum }_{i=1}^n{X}_i}{n}$$

• 协方差

  可以看到方差是表示数据整体和期望也就是均值的偏差程度，方差越大表示数据越参差不齐，或者说波动越大，在控制中可以表述为噪声或干扰越大，其可信度越低。

  方差只能表示数组自身的信息也就是一个随机变量的信息，如果需要知道两个随机变量之间的关系需要用协方差

  协方差表示的是两个变量的总体的误差，这与只表示一个变量误差的方差不同。 如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。 如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。—百度词条

​ 通俗讲协方差表示两个随机变量的关联度和关联方向 ，即变化趋势是相同还是相反或者不相关

​ 公式：

​ $$Cov(X,Y)=\frac{{\sum }_{i=1}^n(X_i-\overline{X})(Y_i-\overline{Y})}{n-1}$$

协方差矩阵

​ 但是协方差只能用来表述一维数据，或者说包含变量包含一个维度的数据，实际现实中往往有多维变量需要处理，每维度都需要计算，这时就需要计算多个协方差，为了便于计算和管理，用协方差组成的矩阵来表示，即协方差矩阵。

样本组成矩阵，其中的数据按行排列与按列排列求出的协方差矩阵是不同的，这里默认数据是按行排列（我各人喜欢按列排列即用列向量表示一个样本）。每一列是一个样本或观测结果，那么每一行就是一个随机变量。

​ $$X_{m\times n}=\left[\begin{array}{c}{a}_{11}{a}_{12}\cdots a_{1n}\\ a_{21}{a}_{22}\cdots a_{2n}\\ ⋮⋮\ddots ⋮\\ a_{m1}{a}_{m2}\cdots a_{mn}\end{array}\right]=[c_1{c}_2\cdots c_m{]}^T$$

​ 有n个数据，每个数据有m个随机变量（维度），那么协方差矩阵为：

​ $$\sum$$