机器学习算法笔记：Particle Filter粒子滤波

最新推荐文章于 2023-08-12 02:44:39 发布

xiaochengJF

最新推荐文章于 2023-08-12 02:44:39 发布

阅读量653

点赞数

分类专栏：机器学习文章标签：机器学习

本文链接：https://blog.csdn.net/weixin_43711554/article/details/105658891

版权

机器学习专栏收录该内容

15 篇文章 1 订阅

订阅专栏

文章目录

Particle Filter

Kalman 滤波根据线性高斯模型可求得解析解，但是在非线性、非高斯的情况下无法得到解析解，对这类一般的情况，则要采用粒子滤波的方法

对于复杂的概率分布，可以通过一个简单的概率分布 $q (z)$ 作为桥梁进行采样（重要性采样），求得概率分布函数积分值（期望）:
$\begin{aligned} \mathbb{E}[f(z)]&=\int_zf(z)p(z)dz=\int_zf(z)\frac{p(z)}{q(z)}q(z)dz\\&=\frac1N\sum\limits_{i=1}^Nf(z_i)\boxed{\frac{p(z_i)}{q(z_i)} }\color{blue}\to weight \end{aligned}$

通过对 $q (z)$ 采样，然后对每一个采样的样本应用权重就得到了期望的近似，为了概率分布的特性，还需要对权重进行归一化。

在滤波问题中，需要求解 $p(z_t|x_{1:t})$ ，其权重为：
$w_t^i=\frac{p(z_t^i|x_{1:t})}{q(z_t^i|x_{1:t})},i=1,2,\cdots,N$

若每一个时刻 $t$ 都需要采样 $N$ 个点，则每个时刻都要计算 $N$ 个权重，使得计算较为繁杂，希望找到一个关于权重的递推公式，于是就引入了序列重要性采样（SIS）。

SIS

在 SIS (sequential importance sampling filter)中，解决的问题是 $p(z_{1:t}|x_{1:t})$ 。 $w_t^i\propto\frac{p(z_{1:t}|x_{1:t})}{q(z_{1:t}|x_{1:t})}$

根据 LDS 中的推导可以得到上式分子的递推式：
$\begin{aligned}{\color{blue}p(z_{1:t}|x_{1:t})}\propto p(x_{1:t},z_{1:t})&=p(x_t|z_{1:t},x_{1:t-1})p(z_{1:t},x_{1:t-1})\\ &=p(x_t|z_t)p(z_t|x_{1:t-1},z_{1:t-1})p(x_{1:t-1},z_{1:t-1})\\ &=p(x_t|z_t)p(z_t|z_{t-1})p(x_{1:t-1},z_{1:t-1})\\ &\propto p(x_t|z_t)p(z_t|z_{t-1})\color{blue}p(z_{1:t-1}|x_{1:t-1}) \end{aligned}$

对于分母(指定的提议分布)，直接分解为：
$q(z_{1:t}|x_{1:t})=q(z_t|z_{1:t-1},x_{1:t})q(z_{1:t-1}|x_{1:t-1})$ 所以有： ${\color{blue}w_t^i}\propto\frac{p(z_{1:t}|x_{1:t})}{q(z_{1:t}|x_{1:t})}\propto \frac{p(x_t|z_t)p(z_t|z_{t-1})\color{blue}p(z_{1:t-1}|x_{1:t-1})}{q(z_t|z_{1:t-1},x_{1:t})\color{blue}q(z_{1:t-1}|x_{1:t-1})}=\frac{p(x_t|z_t)p(z_t|z_{t-1})}{q(z_t|z_{1:t-1},x_{1:t})}\color{blue}w_{t-1}^i$

得到计算权重的的步骤：

$t - 1$ 时刻，采样完成并计算得到权重
$t$ 时刻，根据 $q(z_t|z_{1:t-1},x_{1:t})$ 进行采样得到 $z_t^i$ ，然后计算得到 $N$ 个权重
最后对权重归一化

SIS 算法会出现权值退化的情况，在一定时间后，可能会出现大部分权重很小，极少数较大，这是高维空间容易出现的情况，解决方法：

重采样，以权重作为概率分布，重新在已经采样的样本中采样，然所有样本赋予相同权重。这个方法的思路是将权重作为概率分布，然后得到累积密度函数，在累积密度上取点（阶梯函数）
选择合适的提议分布， $q(z_t|z_{1:t-1},x_{1:t})=p(z_t|z_{t-1})$ ，即：直接选择其状态转移概率分布，粒子 $z^{i}_t\sim p(z_t|z^{i}_{t-1})$ ，这也称为生成与测试方法： $w_t^i\propto\frac{p(x_t|z_t)\cancel{p(z_t|z_{t-1})}}{\cancel{p(z_t|z_{t-1})}}{\color{blue}w_{t-1}^i }=p(x_t|z_t){\color{blue}w_{t-1}^i }$