KLD粒子滤波方法

       主要参考1.https://blog.csdn.net/Mark_SLAM/article/details/81266527

                     2.正弦频率估计算法研究_殷波

       粒子滤波用重采样的粒子均值来近似状态量（后验概率密度函数）的期望值。可以想象，采样粒子数量越多，理论上能够更好的反映真实情况。

       但是，计算复杂度随粒子数的增加也会增加，带来问题，一个实际的应用中，选取多少的粒子数才合适？

       基此，引入KL散度（也叫作相对熵）方法，KLD（Kullback-Leibler divergense）引入一个计算公式来描述估计的概率分布p()与真实的概率分布q()之间的近似程度。

     

               

      假设采样取有n个粒子，分别来自k个bin(盒子)，每一个bin中分别有Xi(i=1,2,3,...k)个粒子。

                       

      稍微画了个图。假设上图的红色线条是一维概率密度函数，我们用蓝色的直方图去近似这个曲线。现在图中一共有5个bin（5个蓝色条），每个bin里边放的粒子数为对应的纵坐标。一个直观的感受是：bin的数目越多，则可以更好地近似这条曲线。

       继续假设：每一个bin的真实概率分布为，而通过采样得出的概率为，采样的概率由粒子数目除以总数得出。

                                                               

      统计数据的似然比就可以按下面的公式计算：

                                                        

     将替换为，得到代替，得到：

                                                       

      按KLD的定义整理得到如下：

                                                           

      这里，虽然不知道真实的概率分布p，但是他们之间的距离已经可以用等式左边的来替代啦。根据论文J.A. Rice. Mathematical Statistics and Data Analysis. Duxbury Press, second edition, 1995.可以得到（注意，n趋于无穷）

                                            

，等式左边是满足这个卡方分布的，卡方分布：https://baike.baidu.com/item/卡方分布/2714796?fr=aladdin

      若n个相互独立的随机变量ξ₁，ξ₂，...,ξn ，均服从标准正态分布（也称独立同分布于标准正态分布），则这n个服从标准正态分布的随机变量的平方和构成一新的随机变量，其分布规律称为卡方分布（chi-square distribution）。

      我们现在只需要期待两个概率之间的距离小于某一阈值就可以啦。好，那么，我们构建概率来表达。

                                                  

      根据卡方分布的性质，明显有以下等式（这个具体去看卡方分布的性质吧）

                                              

      结合公式（4）来看，只要就可以满足等式（5）啦，等式（5）可以由查表知道此时的概率是多少。

                                                      

       公式6又怎么计算呢，很好。有论文给出了近似计算等式。

                      

      

         举个例子，当后面的时，大概公式（5）计算出来的概率为98%。

         也就是说我们采样出来的概率分布置信度为98%.

         主要的思想就是用卡方分布去近似计算估计概率分布和真实概率分布之间的距离。