隐马尔可夫模型二(公式推导)

最新推荐文章于 2023-06-16 10:06:01 发布

dakenan1

最新推荐文章于 2023-06-16 10:06:01 发布

阅读量328

点赞数

分类专栏：语音增强文章标签： HMM 语音隐马尔可夫深度学习

原文链接：https://blog.csdn.net/epsilono1/article/details/79094465

版权

8 篇文章 2 订阅

订阅专栏

前面一篇介绍了隐马尔科夫模型的基本的一些概念，篇主要介绍三个问题的具体解决方法。如果对于概念不太理解的可以参考前一篇博客HMM模型基本概念，本篇博客主要介绍对于三个问题的主要推倒，内容主要基于统计学习方法这本书，但是在上面加上了一些自己的理解。下面一一介绍三个问题以及解决的办法。

给定模型λ=(A,B,π)。

直接计算法说白了就是暴力计算每一种情况的可能。对于所有可能的状态序列I，即:

P (O | λ) = \sum I P (O | I, λ) P (I | λ)

这种计算的缺点在于计算量很大，时间复杂度为O(TNT)。

前向后向算法的核心是利用动态规划的思想减少计算的时间复杂度。

图1

前向概率 给定隐马尔可夫模型λ的概率为前向概率，记作

α t (i) = P (o 1, o 2, . . ., o t, i t = q i | λ) (1)

然后可以递推求出前向概率αt(i)

盒子	1	2	3	4
红球数	5	3	6	8
白球数	5	7	4	2

那么这个前向概率到底是什么意思呢？估计好多人还是看的一脸懵逼。还是以之前的盒子与球模型,观测序列为O={红,红,白,白,红}。即前面观测序列为[红,红,白],第三次丑的白色球是从盒子1中抽出的概率。

下面是对前向算法的形式化推导。

输入：隐马尔科夫模型λ;

输出：观测序列概率P(O|λ);

1.初值

α 1 (i) = π i b i (o 1) (2)

即求第一个观测值对应的状态为i的概率

2.递推，对t=1,2,…,T-1,

α t + 1 (i) = [\sum j = 1 N α t (j) a j i] b i (o t + 1), i = 1, 2, . . . ., N (3)

3.终止

P (O | λ) = \sum i = 1 N α T (i) (4)

上面这段公式推导的思想为，先求观测值为o1求和就能够得到上述(3)式。其递推过程图如下：

图2

前向算法就是利用这种方式将时间复杂度从O(TNT),至于降低的原因是减少直接利用了前面的计算结果，避免了每一次都需要重新计算。

还是以盒子与球模型为例，λ=(A,B,π).

设T=3

1.计算初值

α 1 (1) = π 1 b 1 (o 1) = 0.2 \times 0.5 = 0.10

2.递推计算

α 2 (1) = [\sum j = 1 3 α 1 (j) a j 1] b 1 (o 2)

α 2 (2) = [\sum j = 1 3 α 1 (j) a j 2] b 2 (o 2)

α 2 (3) = [\sum j = 1 3 α 1 (j) a j 3] b 3 (o 2)

同理可以得到

α 3 (1) = [\sum j = 1 3 α 2 (j) a j 1] b 1 (o 3) = 0.04187

α 3 (2) = [\sum j = 1 3 α 2 (j) a j 2] b 2 (o 3) = 0.03551

α 3 (3) = [\sum j = 1 3 α 2 (j) a j 3] b 3 (o 3) = 0.05284

3.终止

P (O | λ) = \sum j = 1 3 α 3 (j) = 0.13022

前向算法清楚了，其实后向概率也就清楚了。其本质就是和前向算法的思想是一样的，只不过方向相反，从后往前计算。以下图为例,先计算的是qt的概率，以此类推。下面直接给出定义以及推导。

后向概率的概率为后向概率，记作

&#x03B2;t(i)=P(o

关注