协方差矩阵的理解

协方差

用来衡量两个变量的总体误差（一个变量增大，另一个变量是否也增大），而方差是协方差的一种特殊情况(两个变量相等)

• 协方差计算公式：
  $$Cov(X,Y)=E[(x-E(x))(Y-E(Y))]=E(XY)-E(X)E(Y)$$
  若两个变量相互独立，则协方差为零（反过来不成立）,若为正，两个变量正相关，反之亦然。

协方差矩阵

指各个元素之间的协方差，是从标量随机变量到高维随机向量的自然推广。

• 协方差矩阵元素计算公式：
  $$c_{ij}=Cov(X_i,X_j)$$
  特征：协方差矩阵一定是一个对称的方阵，对角线的因子其实就是变量的方差。
• 求一组数据$X_{n\times m}$的协方差矩阵，其中n代变量的n个属性，m代表m次样本观测。

协方差矩阵的理解

均值可看作对变量最优值的估计，而协方差矩阵则度量了它的不确定性

• 在EKF滤波中，对角元素代表整体的不确定度，画成椭圆就是和椭圆的平均半径有关。
• 非对角元素越大，椭圆越椭。一方面说明某些变量的相关度变大了，但本质是本来一个大大的正圆的两侧被消掉了，所以变成了椭圆，所以本质是不确定度变小了。
• 使用EKF的时候观察协方差的变化，经常是一个对角矩阵，对角元素的值越来越小，非对角元素的值越来越大。

状态估计中的协方差矩阵

• 观察方程中只要一个观察值同时有多个状态影响，就会在这些状态间产生相关性。所以如果只有一个观察量，对应只有一个方程的化。这个方程的变量之间一定是有无穷多个解的。

• 使用这个方程更新协方差后，虽然得不出来具体一个值，但是协方差的某些区域不确定度变小了，正圆也就变成椭圆了。这些变量之间也就产生的相关性。

• 仍然可以用协方差的椭圆图像来理解。update之前的状态不确定度对应一个椭圆，观察量对应一个椭圆。像个椭圆叠加相乘。如果观察量对应的不确定度是个椭圆，而状态不确度是个正圆。相乘后结果也是椭圆。要怎么把椭圆变成更小的元呢？那就需要再乘一个不同方向的椭圆。这个就对应增加了观察量（多了方程）。不管是同时更新（一个时刻观察到很多landmark）。还是下一个时刻从另外一个方向观察（状态发生变化，线性化后的H矩阵也变化了）
  矩阵

协方差的使用

在计算马氏距离时，一般需要用到协方差矩阵。这个距离和欧氏距离相似，但是在距离计算中引入了协方差矩阵的逆作为权重

• 马氏距离计算公式：
  $$(x-\mu {)}^T{\Sigma }^{-1}(x-{\mu }_{)}$$
• 马氏距离可以从两个方面来理解：1）对于不确定度越高的的变量，其协方差越大，取逆表示对该变量的权重越小，符合逻辑2）对于不同变量，其尺度范围不同，取逆后可以使变量的方差归一化，便于度量"实际距离“。