粒子滤波(particle filter)

粒子滤波也属于动态模型中的一种，但是隐变量之间的关系不在是线性的关系，而是满足一定的高次函数关系：
状态方程：$z_t=f(z_{t-1},u_t,{\epsilon }_t)$
观测方程：$x_t=h(z_t,{\delta }_t)$

由于是非线性函数关系，所以很难直接计算后验概率$p(z_t|x_t)$，在很多应用中：
计算后验概率就是为了计算函数的期望值，所以可以使用蒙特卡洛抽样的方法计算期望
这里回顾一下重要性采样公式：
$E[f(z)]={\int }_{z}p(z)f(z)dx={\int }_z\frac{p(z)q(z)}{q(z)}f(z)dz$
$={\int }_{x}q(z)f(z)\frac{p(z)}{q(z)}dz$
$=\frac{1}{n}\sum _{i=1}^{n}f(z_i)\frac{p(z)}{q(z)}$
$=\frac{1}{n}\sum _{i=1}^{n}f(z_i)w_i$

这里指的是：
$p(z)=p(z_t|x_t)$
$q(z)=q(z_t|x_t)$
$\frac{p(z)}{q(z)}$称为权重，记作W,
可以看到，对于$z\in 1,...,n,每次都需要计算W，而且W的计算也比较复杂$
想法：能否找到一种计算W的迭代方法，使得计算量比较小
由此引出序列重要采样(sis)(sequential importance sample)：
$p(z_{1,...t}|x_{1,...,t}),求在给定x_{1,...,t}情况下，z_{1,...t}的概率，$
$根据齐次马尔科夫假设，求出了p(z_{1,...t}|x_{1,...,t})，也就求出了p(z_t|x_t)$,
所以：$w_t\propto \frac{p(z_{1,...t}|x_{1,...,t})}{q(z_{1,...t}|x_{1,...,t})}$
之所以写成序列的形式，是因为这样容易构造迭代公式
迭代公式推导：
$令：w_t=\frac{p(z_{1,...t}|x_{1,...,t})}{q(z_{1,...t}|x_{1,...,t})}$
$p(z_{1,...t}|x_{1,...,t})$
$=\frac{p(z_{1,...t},x_{1,...,t})}{p(x_{1,...,t})},由于p(x_{1,...,t})可以直接计算，这里可作为常量C$
$=\frac{1}{C}p(z_{1,...t},x_{1,...,t}),提出x_t有：$
$=\frac{1}{C}p(x_t|z_{1,...t},x_{1,...,t-1})p(z_{1,...t},x_{1,...,t-1}),提出z_t有：$
$=\frac{1}{C}p(x_t|z_t)p(z_t|z_{1,...t-1},x_{1,...,t-1})p(z_{1,...t-1},x_{1,...,t-1})$
应用齐次马尔科夫条件有：
$=\frac{1}{C}p(x_t|z_t)p(z_t|z_{t-1})p(z_{1,...t-1},x_{1,...,t-1})$
应用贝叶斯展开联合概率有：
$=\frac{1}{C}p(x_t|z_t)p(z_t|z_{t-1})p(z_{1,...t-1}|x_{1,...,t-1})p(x_{1,...,t-1})$
$p(x_{1,...,t-1})也可以直接求出，这里作为常量D有：$

$=\frac{D}{C}p(x_t|z_t)p(z_t|z_{t-1})p(z_{1,...t-1}|x_{1,...,t-1})$

$q(z_{1,...t}|x_{1,...,t})$
$=\frac{q(z_{1,...t},x_{1,...,t})}{q(x_{1,...,t})}$ //分母由于可以直接求出，可以忽略
$=q(z_t|z_{1,...t-1},x_{1,...,t})q(z_{1,...t-1},x_{1,...,t})$
$=q(z_t|z_{1,...t-1},x_{1,...,t})q(x_t|z_{1,...t-1}|x_{1,...,t-1})q(z_{1,...t-1},x_{1,...,t})$
$\propto q(z_t|z_{1,...t-1},x_{1,...,t})q(x_t|z_{1,...t-1}|x_{1,...,t-1})q(z_{1,...t-1}|x_{1,...,t})$
假定可以写成：（不知道为何可以这样假定）
$\propto q(z_t|z_{1,...t-1},x_{1,...,t})q(z_{1,...t-1}|x_{1,...,t})$
所以有：
$w_t=\frac{p(z_{1,...t}|x_{1,...,t})}{q(z_{1,...t}|x_{1,...,t})}$
$=\frac{p(x_t|z_t)p(z_t|z_{t-1})p(z_{1,...t-1}|x_{1,...,t-1})}{q(z_t|z_{1,...t-1},x_{1,...,t})q(z_{1,...t-1}|x_{1,...,t})}$

$=\frac{p(x_t|z_t)p(z_t|z_{t-1})}{q(z_t|z_{1,...t-1},x_{1,...,t})}.w_{t-1}$

总结一下sequential importance sample 算法：

$t-1时刻已经计算出w_{t-1}$
对于t时刻：
$fori=1,...n$
$从q分布中采样一个样本z_t，z_t\sim q(z_t|z_{1,...t-1},x_{1,...,t})$
$w_t\propto \frac{p(x_t|z_t)p(z_t|z_{t-1})}{q(z_t|z_{1,...t-1},x_{1,...,t})}.w_{t-1}$
$endfor$
但是序列重要采样实际中会存在权值退化的问题，也就是某些样本的权重值非常接近0，而有些样本的权重值接近1，导致无法正常使用，解决办法分两种：
重采样和找新的q分布

首先看序列重要采样+重采样:$sis+r$

重采样的思路是：既然那些权重小的不起作用了，那就不要了。要保持采样数目不变，得用一些新的样本来取代它们。找新样本最简单的方法就是将权重大的样本多复制几个出来，至于复制几个？那就在权重大的样本里面让它们根据自己权重所占的比例去分配，也就是老大分身分得最多，老二分得次多，以此类推

在这里用个简单的例子来说明：
假设有3个粒子，在第k时刻的时候，他们的权重分别是0.1, 0.1 ,0.8, 然后计算他们的概率累计和为：[0.1, 0.2, 1]。接着，我们用服从[0,1]之间的均匀分布随机采样3个值，假设为0.15 , 0.38 和 0.54。也就是说，第二个粒子复制一次，第三个粒子复制两次

其次：序列重要采样+重采样+选择合适的q分布:
当取q分布为:$p(z_t|z_{t-1})时，有：$
$$w_t\propto \frac{p(x_t|z_t)p(z_t|z_{t-1})}{q(z_t|z_{1,...t-1},x_{1,...,t})}.w_{t-1}=\frac{p(x_t|z_t)p(z_t|z_{t-1})}{p(z_t|z_{t-1})}.w_{t-1}=p(x_t|z_t).w_{t-1}$$
从而更进一步简化了运算