一、绪论:
参考资料:
茆诗松 《概率论与数理统计》 第一版十章
忠厚老实的老王
应用领域:汽车 电池 航空航天 金融 机器学习等
有些教程很难比如下面这些专业术语:
HMM-隐马尔可夫模型
MCMC-马尔可夫-蒙特卡洛方法
MAP--最大后验估计
这些一看就是很难,但有些教程很简单,但是讲的不是很详细。
下面先直接讲贝叶斯滤波再将卡尔曼滤波再讲一些卡尔曼滤波的变种。贝叶斯滤波是思想卡尔曼滤波是它具体的实现,还有一种是粒子滤波。
贝叶斯滤波:
卡尔曼滤波、变种
粒子滤波
基础:概率论
二、随机过程与主观概率
随机过程: x1,x2,x3,…xn 不独立
确定过程:v=gt v1=g,v2=2g,…
x1,x2,x3,…xn 都是随机变量,彼此之间不独立(无法做随机试验)
随机试验:
相同条件下,实验可以重复进行。
一次试验,结果不确定,所有可能的结果已知。
实验之前,实验结果预先未知。
大数定律:
例子:
股票
分子的扩散
气温的变化
随机过程 x1,x2,x3,…xn 不独立 xk=f(xk-1) P(xk)=f(p(xk-1))
p(x1)=? 初值的选取
有的初值可以做随机 随机游走 试验 xk=xk-1+D
有的初值不可以做随机试验,只能使用主观概率
随机过程 1,x2,x3,…xn 不独立
xk=f(xk-1) P(x1) 不同的主观概率导致不同的结果
引入外部观测(证据,信息)
三、贝叶斯三大概率
先验概率
后验概率
X,Y随机变量 x,y随机变量的取值,代表随机实验一个可能的结果。
例:今天多少度?
首先:先验概率分布p(T=10)=0.8 p(T=11)=0.2
其次:温度计Tm(measure)=10.3
最后:
例:今天多少度?
首先:先验概率分布p(T=10)=0.8 p(T=11)=0.2
其次:温度计Tm(measure)=10.3
最后
似然概率:代表观测的准确度
四、连续随变量下的贝叶斯公式
推荐 茆诗松《 概率论与数理统计》 第一版十章
似然:likehood 可能性 相似 像 源于最大似然概率
化积分求和
五、似然概率与狄拉克函数
X:状态 Y:观测
例子:温度计精度为±0.2当真实值为x ,y为x±0.2
似然概率模型 :
1等可能模型
2阶梯型
推广:直方图形
直方图滤波:(非线性卡尔曼滤波的一种 与粒子滤波齐名)
3正态分布形
方差一般取值 精度的平方,正态分布均值与方差比较好控制
测温度的例子:
证:(暴力证明)mathmatica
狄拉克函数实质上为必然事件的概率密度
推论:
六、随机过程的贝叶斯滤波
前五章
随机过程
有一个初值x0 有k个观测值y1y2...yk
怎么办?
怎么办?
1 所有的x0~xk的先验概率都靠猜
缺点:过度依赖观测,放弃了预测信息
2 只有x0的概率是猜的,x1,x2…xk的先验概率是递推的
(保留了x特性效果要好一些)
怎么做?
1 马尔可夫假设观测独立假设
2 状态方程 观测方程(建模)
状态方程:
状态方程:反映了xk和xk-1之间的关系 上面的式子Q:预测噪声
观测方程:反映了状态是如何引起传感器的读数
怎么递推:
无观测的时候上一步的先验概率作为下一步的先验概率
有观测的时候上一步的后验概率作为下一步的先验概率
分两步:
1 预测部:上一时刻的后验经(状态方程)到这一时刻的先验
2 更新步:这一时刻的先验经(观测方程)到这一时刻的后验
具体怎么做?
贝叶斯滤波算法
重要定理:条件概率里的条件可以做逻辑推导
预测步:
证明R1与x1相互独立
完整算法:
缺点:
三个无穷积分 万恶之源
解决办法: