卡尔曼滤波基本概念之协方差

转载自百科：https://baike.so.com/doc/5397711-5635055.html

在概率论和统计学中，协方差用于衡量两个变量的总体误差。而方差是协方差的一种特殊情况，即当两个变量是相同的情况。
E[(X-E(X))(Y-E(Y))]称为随机变量X和Y的协方差，记作COV(X，Y)，即COV(X，Y)=E[(X-E(X))(Y-E(Y))]。

协方差与方差之间有如下关系：

D(X+Y)=D(X)+D(Y)+2COV(X，Y)

D(X-Y)=D(X)+D(Y)-2COV(X，Y)

协方差与期望值有如下关系：

COV(X，Y)=E(XY)-E(X)E(Y)。

协方差的性质：

（1）COV(X，Y)=COV(Y，X)；

（2）COV(aX，bY)=abCOV(X，Y)，（a，b是常数）；

（3）COV(X1+X2，Y)=COV(X1，Y)+COV(X2，Y)。

由协方差定义，可以看出COV(X，X)=D(X)，COV(Y，Y)=D(Y)。

协方差作为描述X和Y相关程度的量，在同一物理量纲之下有一定的作用，但同样的两个量采用不同的量纲使它们的协方差在数值上表现出很大的差异。为此引入如下概念：

定义

ρXY=COV(X，Y)/√D(X)√D(Y)，称为随机变量X和Y的相关系数。

定义

若ρXY=0，则称X与Y不相关。

即ρXY=0的充分必要条件是COV(X，Y)=0，亦即不相关和协方差为零是等价的。

定理

设ρXY是随机变量X和Y的相关系数，则有

（1）∣ρXY∣≤1；

（2）∣ρXY∣=1充分必要条件为P{Y=aX+b}=1，（a，b为常数，a≠0）

定义

设X和Y是随机变量，若E(X^k)，k=1，2，…存在，则称它为X的k阶原点矩，简称k阶矩。

若E{[X-E(X)]^k}，k=1，2，…存在，则称它为X的k阶中心矩。

若E(X^kYl)，k、l=1，2，…存在，则称它为X和Y的k+l阶混合原点矩。

若E{[X-E(X)]^k[Y-E(Y)]l}，k、l=1，2，…存在，则称它为X和Y的k+l阶混合中心矩。

显然，X的数学期望E(X)是X的一阶原点矩，方差D(X)是X的二阶中心矩，协方差COV(X，Y)是X和Y的二阶混合中心矩。