粒子滤波学习笔记

粒子滤波学习笔记（一）

最近简单学习了粒子滤波相关内容，自己也有一些理解，写一点东西希望能对大家有帮助，如果有错误的地方，希望大家指正。
本文主要从以下几个部分介绍，第一部分简单简单介绍贝叶斯估计理论，以后陆续写其他部分。

• 1、贝叶斯估计理论
• 2、蒙特卡洛采样估计
• 3、粒子滤波

1、贝叶斯估计理论

总体来说，统计学界包含两个学派：经典学派和贝叶斯学派。贝叶斯学派起步较晚，与传统的经典学派相比，贝叶斯学派有两个特点：一是将未知参数作为随机变量；二是建立先验分布。

1.1贝叶斯定理

贝叶斯定理的主要内容是：假设$\mathbf z=[z_1,z_2,...,z_m]$为独立同分布的可量测随机变量，每一个变量相对于未知参数 $\mathbf x$的条件概率密度$\mathcal p(\mathbf x|\mathbf z)$，则未知参数的后验概率为

$$\mathcal p(\mathbf x|\mathbf z)={\mathcal p(\mathbf z|\mathbf x)\mathcal p(\mathbf x)\over \mathcal p(\mathbf z) }={\mathcal p(\mathbf z|\mathbf x)\mathcal p(\mathbf x)\over \int\mathcal p(\mathbf z|\mathbf x)d\mathbf x }$$
我们对贝叶斯定理做个简单的介绍。
（1） $\mathcal p(\mathbf z|\mathbf x)$叫做似然函数，表示的是在给定参数的情况下有多大的概率产生该观测值；
（2） $\mathcal p(\mathbf x)$表示先验概率，这一概率是根据经验产生的；
（3） $\mathcal p(\mathbf x|\mathbf z)$表示后验概率，也就是给定观测值后产生该观测值的概率有多大。
（4）对于分母 $\mathcal p(\mathbf z)$来说，它是一个和 $\mathbf x$无关的量，是一个常数。

对贝叶斯定理我们可以这样理解，它是将未知参数$\mathbf x$看作一个随机变量，并且取一个先验概率，如果我们没有观测参数，那么只能将使用其先验。但是如果我们不断产生观测值，我们就可以用观测值来不断地对先验进行修订。所以说贝叶斯定理是将经验知识和量测数据加以综合的过程，这也是贝叶斯理论的优越性所在。

1.2递归贝叶斯估计

为了得出递归贝叶斯滤波的规律我们做出两个假设：
（1）状态之间服从一阶Markov过程，也就是$\mathcal p(\mathbf x_n|\mathbf x_{0:n-1})=\mathcal p(\mathbf x_n|\mathbf x_{n-1})$;
（2）在给定状态下观测值之间相互独立。
为了表示简便，我们用$y_n$表示一系列观测向量$\mathbf y_{0:n}:=[\mathbf y_0,...,\mathbf y_n]$
下面是具体的推导过程：

$$\mathcal p(\mathbf x_n|\mathcal y_n) = {\mathcal p(\mathcal y_n|\mathbf x_n)\mathcal p(\mathbf x_n)\over \mathcal p(\mathcal y_n) }\\= {\mathcal p(\mathbf y_n,\mathcal y_{n-1}|\mathbf x_n)\mathcal p(\mathbf x_n)\over \mathcal p(\mathbf y_n,\mathcal y_{n-1})}\\ \qquad \qquad= {\mathcal p(\mathbf y_n|\mathcal y_{n-1},\mathbf x_n)\mathcal p(\mathcal y_{n-1}|\mathbf x_n)\mathcal p(\mathbf x_n)\over \mathcal p(\mathbf y_n|\mathcal y_{n-1})\mathcal p(\mathcal y_{n-1})}\\ \qquad \qquad \quad \qquad= {\mathcal p(\mathbf y_n|\mathcal y_{n-1},\mathbf x_n)\mathcal p(\mathbf x_n|\mathcal y_{n-1})\mathcal p(\mathcal y_{n-1})\mathcal p(\mathbf x_n)\over \mathcal p(\mathbf y_n|\mathcal y_{n-1})\mathcal p(\mathcal y_{n-1})\mathcal p(\mathbf x_n)}\\= {\mathcal p(\mathcal y_n|\mathbf x_n)\mathcal p(\mathbf x_n|\mathcal y_{n-1})\over \mathcal p(\mathbf y_n|\mathcal y_{n-1}) }$$
简单分析一下这个公式表示的意思。
Prior $p(\mathbf x_n|\mathcal y_{n-1})$定义了模型的信息，它可以这么来计算
$$p(\mathbf x_n|\mathcal y_{n-1})=\int p(\mathbf x_n|\mathbf x_{n-1})p(\mathbf x_{n-1}|\mathcal y_{n-1})d\mathbf x_{n-1}$$
从中可以看出它和模型参数的转移概率 $p(\mathbf x_n|\mathbf x_{n-1})$以及上一时刻的后验概率 $\mathcal p(\mathbf x_n|\mathcal y_n)$有关系。
Likehood 似然 $\mathcal p(\mathcal y_n|\mathbf x_n)$基本上决定了模型中的量测噪声的大小，因为它描述的是模型参数和观测值的关系。
Evidence 分母包含一个积分， $$p(\mathbf y_n|\mathcal y_{n-1})=\int p(\mathbf y_n|\mathbf x_{n})p(\mathbf x_{n}|\mathcal y_{n-1})d\mathbf x_n$$

小结

Prior 在贝叶斯递归滤波中表示的是预测，也就是利用系统模型预测从一个量测时刻到下一个量测时刻的后验概率密度函数，利用Prior的结果可以进行更新，也就是利用最新的量测值对这个后验概率进行修正，从而完成由$p(\mathbf x_n|\mathcal y_{n-1})$到$\mathcal p(\mathbf x_n|\mathcal y_n)$过程。可以看出这个过程类似卡尔曼滤波，利用递推的方法可以节省大量的存储空间。