隐马尔可夫模型(HMM) ｜前向算法｜一个简单的例子说清计算过程｜一般步骤总结

最新推荐文章于 2024-04-20 20:18:23 发布

漂亮_大男孩

最新推荐文章于 2024-04-20 20:18:23 发布

阅读量1k

点赞数 18

文章标签：算法隐马尔可夫模型

本文链接：https://blog.csdn.net/weixin_50907960/article/details/136726436

版权

如是我闻: 本文通过一个简单的例子来详细说明隐马尔可夫模型(HMM)的前向算法

我们求解的问题类型是：给定模型及观测序列计算其出现的概率。

隐马尔可夫模型由三个主要部分组成：

隐藏状态集合
观测状态集合
以及三个概率矩阵（状态转移概率矩阵、观测概率矩阵、和初始状态概率向量）

1. 示例说明

假设有一个简化的天气模型，其中隐藏状态是“晴朗”(Sunny)和“雨天”(Rainy)，观测状态是“干燥”(Dry)和“湿润”(Wet)。

隐藏状态集合：S = {Sunny, Rainy}
观测状态集合：O = {Dry, Wet}

我们定义以下概率：

初始状态概率向量（π）：P(Sunny) = 0.8, P(Rainy) = 0.2
状态转移概率矩阵（A）：

	Sunny	Rainy
Sunny	0.7	0.3
Rainy	0.4	0.6

观测概率矩阵（B）：

	Dry	Wet
Sunny	0.9	0.1
Rainy	0.3	0.7

1.1 任务

给定观测序列：O = {Dry, Wet}，计算这个观测序列出现的概率。

2.解决过程

2.1前向算法概述

前向算法通过递归的方式计算每个时间点上所有隐藏状态的前向概率。前向概率α是给定模型参数和观测序列直到当前时间点的所有观测值条件下，隐藏状态为某状态的概率。那么前向概率是什么呢

2.2 前向算法中的前向概率(这个是重点，明白前向概率就明白前向算法)

在隐马尔可夫模型（HMM）中，α（前向概率）代表了在给定模型参数和到当前时间点为止的观测序列的条件下，序列处于某一特定隐藏状态的概率。具体来说，对于时间点t的状态i， $α_t(i)$ 表示从序列开始到时间点t观察到特定观测序列，并且在时间点t处于状态i的联合概率。这个概念是通过结合初始状态概率、状态转移概率，以及观测概率来计算得出的。

2.3示例计算过程

给定的观测序列O = {Dry, Wet}，我们如何使用前向算法计算其概率？

2.3.1初始化

对于第一个观测“Dry”，我们计算每个隐藏状态的前向概率 $α_1(i)$ ：

$α_1(Sunny) = π(Sunny) \cdot B(Sunny|Dry) = 0.8 * 0.9 = 0.72$
$α_1(Rainy) = π(Rainy) \cdot B(Rainy|Dry) = 0.2 * 0.3 = 0.06$

实际上要是把 $α_1(Sunny)$ 和 $α_1(Rainy)$ 相加，得到就是t=1的时刻下，观测是Dry的概率

2.3.2递归

接下来，我们使用前一步的前向概率来计算第二个观测“Wet”时，每个隐藏状态的前向概率 $α_2(i)$ ：

$α_2(Sunny) = [α_1(Sunny) \cdot A(Sunny|Sunny) + α_1(Rainy) \cdot A(Sunny|Rainy)] \cdot B(Sunny|Wet) = [0.72 \cdot 0.7 + 0.06 \cdot 0.4] \cdot 0.1 = (0.504 + 0.024) \cdot 0.1 = 0.0528$
$α_2(Rainy) = [α_1(Sunny) \cdot A(Rainy｜Sunny) + α_1(Rainy) \cdot A(Rainy|Rainy)] \cdot B(Rainy|Wet) = [0.72 \cdot 0.3 + 0.06 \cdot 0.6] \cdot 0.7 = (0.216 + 0.036)\cdot 0.7 = 0.1764$