参数估计框图 粒子滤波思路

参数估计

两种常见的参数估计模型

非随机模型

随机模型

参数估计方法

极大似然估计

最大后验估计

最小二乘估计

最小均方误差估计

线性最小均方误差估计

非线性滤波

点估计

• 函数逼近，例如EKF
• 统计量逼近，例如UKF
• 随机模型逼近，例如CDF、DDF

概率密度估计

• 粒子滤波PF

  • 直接对非线性函数对应的概率密度函数进行逼近

    • 贝叶斯滤波

      • 迭代关系式（3个）构成最优解，方程的解析解只有在某些特殊情况下才可以获得。f() h() 都为线性的，并且状态噪声是可叠加的、独立的、高斯的，这就是卡尔曼滤波，当噪声不服从高斯分布式，将无法得到滤波器最优的结论，最小方差的推导说明了无论噪声是何种概率密度分布，卡尔曼滤波器都是最优的线性滤波器。

    • 蒙特卡洛方法（随机采样法、统计模拟法）

      • 思想：将所求解的问题描述为某种概率统计模型化的随机变量，利用计算机进行模拟采样，从而获得问题的近似解。

    • 重要性采样

      • 从某一已知的、容易采样的函数中间接采样，这种函数称为重要性密度函数（IDF），这种采样方法称为重要性采样。
      • 基本思想：通过一个相对简单分布函数的随机加权平均来近似计算目标分布函数的数学期望，该相对简单的分布函数被称为重要性密度函数或偏置函数。
      • 目的：是一种受控的方式引入噪声偏置，增加稀有事件，减少运行时间。
      • 重要性采样算法作为模特卡罗仿真中一种有效的快速仿真技术，主要作用在于降低给定仿真估计器的方差，从而减少仿真样本数，缩短仿真时间。
      • 核心：偏置函数的选取，最优偏置函数可实现零方差，因此每个仿真实验能计算输出正确的期望值。

    • 序贯重要性采样

      • 克服重要性采样不能直接用来递推，主要因为估计的过程需要用到所有的量测信息。这种方法在k时刻采样时不会改动过去的状态序列。

    • 粒子退化问题与重采样

      • 粒子退化问题

        • 经过若干次迭代后，除了少数几个粒子，大部分其他粒子的权值将小到可以忽略不计。
        • 原因：重要性权值的方差将随时间的推移而增加。

      • 选择合适的重要性密度函数

        • 选择合适的重要性密度函数使方差最小化，从而使有效样本数最大化。

      • 重采样

        • 预先设定一个有效样本数的阈值，当有效粒子数低于阈值时进行重采样，其目的在于抑制权重较小的粒子，而关心权值较大的粒子。

  • 总结

    • 利用Monte Carlo方法，如果能从后验概率密度抽取N个样本，状态的PDF可以用经验分布逼近为 - 对样本集求均值。 但是通常不可能直接从状态的PDF采样，Bayes 重要性采样（IS）方法从一个容易采样的重要性分布函数独立抽取N个样本，逼近状态（带权值）的PDF，为了递推估计，选取重要性分布函数为先验(去掉没有积分)，从里面的p(xk/xk-1,yk)中抽取样本，称为序贯重要性采样（SIS），为了得到较好的估计，重要性分布应接近真实状态后验分布，因此重要性权的方差越小越好，针对重要性函数这样大的重要性分布，已经证明重要性权的方差随着时间增大，在极端情况下，经过若干次迭代后，某个权可能趋于1，其余权都趋于0，这称为权的退化现象，为了减轻权的退化，一个关键步骤是重要性分布函数的选择，在条件Xk-1和Yk下，使权的方差最小分布是q(xk/Xk-1,Yk)=p(xk/xk-1,yk)，称为最优重要性分布函数，最简单的重要性分布函数是状态的先验转移分布p(xk/xk-1)，称为Bootstrap滤波器。
    • 由于SIS算法的退化不可避免，Gordon提出对样本重新采样，繁殖重要性权高的粒子，淘汰权低的粒子，从而抑制退化现象，最常用的重采样方法是采样-重要性重采样（SIR）方法，还有残差采样、最小方差采样等。 SIS和重采样就构成通常的SIR粒子滤波器，PF利用状态空间的一组带权值的随机样本（粒子）逼近状态变量的PDF，每个样本代表系统的一个可能状态，是基于Monte Carlo仿真的方法，具有较好的鲁棒性，适用于强非线性非高斯问题。

  • 粒子滤波器的新变种

    • 1、MCMC改进策略

      • PF的重采样抑制了权的退化，但也引入了其它问题，重采样后，粒子不在独立（父代粒子一样），简单的收敛性结果不再成立，具有较高权的粒子被采样多次，粒子丧失多样性，极端情况下，经过若干次迭代后，所有粒子都坍塌到一个点上，这称为粒子的贫化。 重采样带来的粒子贫化问题使得表示状态PDF的粒子个数太少而不充分，无限增大粒子个数又不现实，Gordon等人提出对每个样本点增加高斯扰动，或着每次采样kN个样本，再从中重采样N个粒子，这些方法可以增加粒子的多样性，但是存在计算量过大甚至滤波器发散的问题。
      • 子主题 2

    • 2、Unscented粒子滤波器（UPF）

      • 用UKF产生PF的重要性分布

    • 3、辅助粒子滤波器（APF）

    • 4、Rao-Blackwellised粒子滤波器（RBPF）

      • 在维数很高的状态空间采样时，PF的效率很低，对某些状态空间模型，状态向量的一部分在其余部分的条件下的后验分布可以用解析方法求得，例如某些状态是条件线性 高斯模 型，可用 Kalman 滤波器得到条件后验分布 ，对另外部分状态用 PF，从而得到一种混合滤波器 ，降低了PF采样空间的维数，RBPF样本的重要性权的方差远远低于SIR方法的权的方差

    • 5、正则化粒子滤波器（RPF）

      • 通常的重采样是在离散分布中采样，Musso等提出了RPF，从连续分布中重采样，可以缓解粒子贫化 问题，在弱意义下收敛于最优滤波器。

    • 6、高斯及高斯和粒子滤波器

      • 高斯粒子滤波器用一个高斯分布逼近目标后验分布，如同EKF，高斯粒子滤波器也假定 目标分布是高斯分布，但不做线性化，通过粒子方法计算均值和方差，该方法比标准的PF容易执行，而性能又优于EKF．高斯和粒子滤波器使用一批高斯粒子滤波器通过加权高斯和分布逼近目标后验分布，结合了高斯混合滤波器及PF的优点 ．

CKF

为了克服无迹滤波在高维系统中出现精度低的情况。