隐马尔可夫模型（三）：算法分类、解决方法

最新推荐文章于 2024-05-30 16:17:47 发布

拉克丝の碎花裙

最新推荐文章于 2024-05-30 16:17:47 发布

阅读量473

点赞数

分类专栏：笔记文章标签：算法分类机器学习

本文链接：https://blog.csdn.net/qq_51945755/article/details/122191768

版权

21 篇文章 0 订阅

订阅专栏

2021SC@SDUSC

对于评估问题（Evaluation）

给定 HMM，即 $\mu = [\pi , A ,B]$ ，求某个观察序列的概率。

例如：给定一个天气的隐马尔可夫模型，包括第一天的天气概率分布，天气转移概率矩阵，特定天气下树叶的湿度概率分布。求第一天湿度为 1，第二天湿度为 2，第三天湿度为 3 的概率。

思路一：找到所有状态序列，得到各状态概率，得到每种状态概率对应的观察概率，求和。

即：找到每一个可能的隐藏状态，并且将这些隐藏状态下的观察序列概率相加。

用这种方式计算观察序列概率极为昂贵，特别对于大的模型或较长的序列，因此我们可以利用这些概率的时间不变性来减少问题的复杂度。

思路二：采用动态规划——前向算法

基本思想：定义前向变量 $\alpha_{t}(i)$ ：t 时刻状态为 $S_{i}$ 且观察状态为 $O_{t}$ 的概率

$\alpha_{t}(i) = p(O_{1}O_{2}...O_{t},q_{t} = S_{i}|\mu)$

如果可以高效地计算 $\alpha_{t}(i)$ ，就可以高效地求得 $p(O|\mu)$ 。

蓝色部分是：从 t 时刻的各个状态 $S_{i}$ 得到 t 时刻的观察状态 $O_{t}$ 的概率

黑色部分是：从 t 时刻的各个状态 $S_{i}$ 得到 t+1 时刻的各个状态

即：

初始化： $\alpha_{1}(i) = \pi_{i}b_{i}(O_{1}), 1\leq i \leq N$
循环计算： $\alpha_{t+1}(j) = [\sum_{i=1}^{N} \alpha_{t}(i)a_{ij}]\times b_{j}(O_{t+1}),1\leq t \leq T-1$
结束，输出： $p(O|\mu) = \sum_{i = 1}^{N} \alpha_{T}(i)$

后向算法

定义后向变量 $\beta_{t}(i)$ 是在给定了模型 $\mu = [\pi , A ,B]$ 和假定在时间 t 状态为 $S_{i}$ 的条件下，模型输出观察序列 $O_{t+1}O_{t+2}...O_{T}$ 的概率：

算法图解：

蓝色部分是：从 t+1 时刻的各个状态 $S_{i}$ 得到 t+1 时刻的观察状态 $O_{t}$ 的概率

黑色部分是：从 t+1 时刻的各个状态 $S_{i}$ 得到 t 时刻的各个状态

即：

初始化： $\beta_{T}(i)=1,1\leq i\leq N$
循环计算： $\beta_{t}(i) = \sum_{j=1}^{N}a_{ij}b_j(O_{t+1})\times \beta _{t+1}(j),T-1\geq t\geq1,1\leq i \leq N$
结束，输出： $p(O|\mu) = \sum_{i=1}^{N}\beta_1(i) \times \pi_i\times b_i(O_i)$

关注