测量数目增加，估计出来的状态的协方差减小

最新推荐文章于 2022-10-01 22:13:34 发布

YMWM_

最新推荐文章于 2022-10-01 22:13:34 发布

阅读量144

点赞数

分类专栏：状态估计文章标签：个人笔记

本文链接：https://blog.csdn.net/YMWM_/article/details/120684840

版权

状态估计专栏收录该内容

2 篇文章 0 订阅

订阅专栏

考虑这样一个问题，
$\varepsilon \tag{1}$
其中 $y$ 为测量， $A$ 为测量关系矩阵， $x$ 为状态， $\varepsilon$ 为噪声（服从高斯分布）。已知 $y$ 和 $A$ ， $\varepsilon$ 未知，请求解 $x$ 。

加权最小二乘算法：
权重矩阵 $W$ 取各个测量的标准差之逆，
$\begin{bmatrix} \frac{1}{\sigma _{y_1}} & & &\\ & \frac{1}{\sigma _{y_2}} & &\\ & & \ddots &\\ & & & \frac{1}{\sigma _{y_n}}\\ \end{bmatrix} \tag{2}$
则有，
$\tag{3}$
$(WA)^TWy=(WA)^TWAx \tag{4}$
$[(WA)^TWA]^{-1}(WA)^TWy=x \tag{5}$
$(A^TW^TWA)^{-1}A^TW^TW \cdot y=x \tag{6}$
$W^TW$ 为各个测量的方差之逆，即测量的协方差矩阵之逆，记 $C=W^TW$ ，故公式（6）可写成，
$(A^TCA)^{-1}A^TC\cdot y =x \tag{7}$
又测量 $y$ 的协方差矩阵为 $C^{-1}$ ，
$C^{-1}=\begin{bmatrix} \sigma ^2_{y_1} & & &\\ & \sigma ^2_{y_2} & &\\ & & \ddots &\\ & & & \sigma ^2_{y_n}\\ \end{bmatrix} \tag{8}$

根据加权最小二乘算法可知，求解出的状态的协方差矩阵为，
$(A^TCA)^{-1}A^TC\cdot C^{-1} \cdot [(A^TCA)^{-1}A^TC]^T$
$(A^TCA)^{-1}A^T \cdot [(A^TCA)^{-1}A^TC]^T$
$(A^TCA)^{-1}A^T \cdot C^TA(A^TCA)^{-T}$
又 $C$ 是对角阵，有 $C^T=C$ ，
$A^TCA)^{-T}$
$A^TC^TA)^{-1}$
$(A^TCA)^{-1} \tag{9}$
取 $A^TCA$ 分析，增加观测数目之后，其变为，
$\begin{bmatrix} A\\ A_0 \end{bmatrix} ^T \begin{bmatrix} C & \\ & C_0 \end{bmatrix} \begin{bmatrix} A \\ A_0 \end{bmatrix}$
$\begin{bmatrix} A^T & A^T_0 \end{bmatrix} \begin{bmatrix} C &\\ & C_0 \end{bmatrix} \begin{bmatrix}A \\ A_0 \end{bmatrix}$
$\begin{bmatrix} A^TC & A^T_0C_0 \end{bmatrix} \begin{bmatrix} A\\ A_0 \end{bmatrix}$
$A^TCA+A^T_0C_0A_0$
$A^T_0C_0A_0$ 正定，该值是增加的，它的逆，即协方差矩阵是减小的。得证！

测量铅笔的小例子：
已知用直尺对铅笔长度进行了 $n$ 次测量，每次测量结果为 $y_1,y_2,...,y_n$ ，每次测量都服从同一个正态分布 $N(0,\sigma ^2)$ ，状态 $x$ 表示铅笔长度。
依据加权最小二乘算法，测量向量为 $y_1,y_2,...,y_n]^T$ ，测量关系矩阵 $A$ 为，
$\begin{bmatrix} 1 \\ 1\\ \vdots \\ 1 \end{bmatrix}$
权重矩阵 $W$ 为，
$W=\begin{bmatrix} \frac{1}{\sigma} & & &\\ & \frac{1}{\sigma} & &\\ & & \ddots & \\ & & & \frac{1}{\sigma} \end{bmatrix}$
则，加权最小二乘解为，
$x=(A^TCA)^{-1}A^TC\cdot y$
其中 $C$ 为 $W^TW$ ，故
$A^TCA=\frac{n}{\sigma ^2}$
$A^TC=\begin{bmatrix} \frac{1}{\sigma ^2} & \frac{1}{\sigma ^2} & \cdots & \frac{1}{\sigma ^2} \end{bmatrix}$
$(A^TCA)^{-1} \cdot A^TC = \frac{\sigma ^2}{n}\begin{bmatrix} \frac{1}{\sigma ^2} & \frac{1}{\sigma ^2} & \cdots & \frac{1}{\sigma ^2} \end{bmatrix} = \frac{1}{n} \begin{bmatrix} 1 & 1 & \cdots & 1\end{bmatrix}$
$x=\frac{1}{n} \begin{bmatrix} 1 & 1 & \cdots& 1\end{bmatrix} \begin{bmatrix}y_1 \\ y_2 \\ \vdots\\ y_n \end{bmatrix}=\frac{y_1+y_2+\cdots+y_n}{n} \tag{10}$
状态的协方差矩阵为，
$(A^TCA)^{-1}=\frac{\sigma ^2}{n} \tag{11}$
故由上式也可知，随着观测数目的增加，状态的协方差是减小的。

量铅笔长度问题的另一种思路，

高斯分布的性质：

（1）已知随机变量 $X$ 服从 $N(\mu _1, \sigma _1^2)$ ，随机变量 $Y$ 服从 $N(\mu _2, \sigma _2^2)$ ，则随机变量 $X + Y$ 服从 $N(\mu _1+\mu_2, \sigma _1^2+\sigma_2^2)$ 。

（2）已知随机变量 $X$ 服从 $N(\mu, \sigma^2)$ ，有一常数 $a$ ，则随机变量 $a X$ 服从 $N(a\mu,a^2\sigma^2)$ 。

故已知随机变量 $y_i$ 服从分布 $N(0,\sigma^2)$ ，随机变量 $x$ ，
$x=\frac{y_1+y_2+\cdots+y_n}{n}$
的均值为0，方差为
$(\frac{1}{n})^2\cdot(\sigma^2+\sigma^2+\cdots+\sigma^2) = \frac{1}{n^2} \cdot n\sigma^2 = \frac{\sigma^2}{n}$
同样的，推导出了状态的协方差！