粒子滤波器

粒子滤波器（参见维基百科的解释）
粒子滤波器是一种使用蒙特卡洛方法的递归滤波器，透过一组具有权重的随机样本（称为粒子）来表示随机事件的后验概率。
粒子滤波器能从一系列含有噪声或者不完整的观测值中，估计出动态系统的内部状态。在动态系统的分析中，需要两个模型，一个用来描述状态随时间的变化（系统模型），另一个用来描述每个状态下观察到的噪声（观测模型）
递归滤波器包括：
1预测：利用系统模型，由前一个状态的信息预测出下一个状态的概率密度函数
2更新：利用最新的观测值，修改预测出的概率密度函数
设有一动态系统，其状态序列{xk, k∝N}定义为：
xk=fk(xk-1,vk-1)
其中，fk是状态转移函数，{xk, k∝N}是一个独立同分布（iid）的过程噪声序列。
观测值：
yk=hk{xk, nk}
其中，hk是一个观测函数，{nk, k∝N}是一个独立同分布（iid）的观测噪声序列

从贝叶斯的观点看，追踪问题是根据到时间k为止的已知信息y1:k,递归地计算出时间k的状态xk的置信度。这个置信度用概率密度函数p(xk|y1:k)表示。初始概率密度函数p(x0|y0)=p(x0)（称为先验概率）为已知，则利用“预测”和“更新”两个步骤就可以递归地计算出概率密度函数p(xk|y1:k)

预测：


更新：
在时间k，得到观测值yk，因此可以使用贝叶斯定理，由先验概率p(xk|y1:k-1)得到后验概率p(xk|y1:k)，也就是考虑观测值后得到的概率：

其中归一化常数为：

对于一般非线性、非高斯的系统，难以得到解析解，因此需要利用蒙特卡洛方法来近似贝叶斯最佳解。

序列重要性重采样（Sequential Importance Resampling. SIR）
序列重要性采样（Sequential Importance Sampling. SIS）
SIR是由SIS加上重采样（Resampling）改良而来，在SIS中，将后验概率p(xk|y1:k)用N个随机样本（粒子）与各自的权重表示为{xk[i],wk[i]}i=1N。
其中的权重是根据重要性采样的规则产生，且必须符合：

根据重要性采样的理论，一个函数f的期望值可以用加权平均来近似：

在每一次递归过程中，由前一次采样的权重，计算出下一次采样的权重。假设采样的样本xk[i]由重要性密度q(xk|y1:k)抽取，则权重可表示为：

将重要性密度分解为：

后验概率为：

所以权重的递归式可表示为：

重采样（resampling）
SIS可能会造成粒子退化问题，也就是经过n次递归后，很多粒子的权重都小到可忽略不计，只剩少数的权重较大，如此会浪费大量的计算量在几乎没有作用的粒子上，而使估计性能下降。
为了评估退化问题，定义有效粒子数为：

在进行SIS时，若有效粒子数小于某一阈值，则对粒子做重采样，即可减缓退化问题。重采样的概念是去除权重过小的粒子，专注于权重较大的粒子。进行重采样时，要由现有的粒子分布取样，产生一组新的粒子{xk[i*]}i=1N，由于产生的新样本为独立同分布，因此权重重新设定为wk[i]=1/N。