隐马尔可夫模型二(公式推导)

前面一篇介绍了隐马尔科夫模型的基本的一些概念，篇主要介绍三个问题的具体解决方法。如果对于概念不太理解的可以参考前一篇博客HMM模型基本概念，本篇博客主要介绍对于三个问题的主要推倒，内容主要基于统计学习方法这本书，但是在上面加上了一些自己的理解。下面一一介绍三个问题以及解决的办法。

概率问题

给定模型$\lambda=(A,B,\pi)$和观测序列$O=(o_1,o_2,...,o_T)$，计算在模型$\lambda$下观测序列$O$出现的概率$P(O|\lambda)$。

直接计算法

直接计算法说白了就是暴力计算每一种情况的可能。对于所有可能的状态序列$I$求和，得到观测序列$O$的概率$P(O|\lambda)$，即:

$$P(O|\lambda)=\sum_IP(O|I,\lambda)P(I|\lambda)$$
$$=\sum_{i_1,i_2,...,i_T}\pi_{i_1}b_{i_1}(o_1)a_{i_1i_2}b_{i_2}(o_2)...a_{i_{T-1}i_T}b_{i_T}(o_T)$$

这种计算的缺点在于计算量很大，时间复杂度为$O(TN^T)$。

前向后向算法

前向后向算法的核心是利用动态规划的思想减少计算的时间复杂度。

图1

前向算法

前向概率 给定隐马尔可夫模型$\lambda$，定义到时刻$t$部分观测序列为$o_1,o_2,...,o_t$且状态为$q_i$的概率为前向概率，记作

$$\alpha_t(i)=P(o_1,o_2,...,o_t,i_t=q_i|\lambda)\quad (1)$$

然后可以递推求出前向概率$\alpha_t(i)$以及观测序列$P(O|\lambda)$

盒子	1	2	3	4
红球数	5	3	6	8
白球数	5	7	4	2

那么这个前向概率到底是什么意思呢？估计好多人还是看的一脸懵逼。还是以之前的盒子与球模型,观测序列为$O=\{红,红,白,白,红\}$，假设$t=3,i=1$,后面的序列我们不知道,那么$\alpha_t(i)=P(O=\{红,红,白\},i=1|\lambda)$。即前面观测序列为[红,红,白],第三次丑的白色球是从盒子1中抽出的概率。

下面是对前向算法的形式化推导。

输入：隐马尔科夫模型$\lambda$,观测序列为$O$;

输出：观测序列概率$P(O|\lambda)$;

1.初值

$$\alpha_1(i)=\pi_i b_i(o_1)\quad (2)$$

即求第一个观测值对应的状态为$i$的概率

2.递推，对t=1,2,…,T-1,

$$\alpha_{t+1}(i)=[\sum_{j=1}^N\alpha_t(j)a_{ji}]b_i(o_{t+1}),\quad i=1,2,....,N\quad (3)$$

3.终止

$$P(O|\lambda)=\sum_{i=1}^N\alpha_T(i)\quad (4)$$

上面这段公式推导的思想为，先求观测值为$o_1$的概率，然后在前面的基础上求观测值为$o_2$对应的概率,依次递推，最后求观测值为$o_t$的概率。然后每一种概率对应了不同的状态，$\alpha_t(i)$则表示在状态为$i$时的概率，而$P(o_1,o_2,...,o_t,i_T=q_i|\lambda)$，然后然后对$i$求和就能够得到上述(3)式。其递推过程图如下：

图2

前向算法就是利用这种方式将时间复杂度从$O(TN^T)$降低到$O(TN^2)$,至于降低的原因是减少直接利用了前面的计算结果，避免了每一次都需要重新计算。

还是以盒子与球模型为例，$\lambda=(A,B,\pi)$,状态集合$Q=\{1,2,3\}$,观测集合$V=\{红,白\}$.

设$T=3$,$O=\{红,白,红\}$，求$P(O|\lambda)$

1.计算初值

$$\alpha_1(1)=\pi_1b_1(o_1)=0.2\times 0.5=0.10$$
$$\alpha_1(2)=\pi_2b_2(o_1)=0.4\times 0.4=0.16$$
$$\alpha_1(3)=\pi_3b_3(o_1)=0.4\times 0.7=0.28$$

2.递推计算

$$\alpha_2(1)=[\sum_{j=1}^3\alpha_1(j)a_{j_1}]b_1(o_2)$$
$$=(0.10\times 0.5+0.16\times 0.3+0.28\times0.2)=0.154\times0.5=0.77$$

$$\alpha_2(2)=[\sum_{j=1}^3\alpha_1(j)a_{j2}]b_2(o_2)$$

$$\alpha_2(3)=[\sum_{j=1}^3\alpha_1(j)a_{j3}]b_3(o_2)$$

同理可以得到

α3(1)=[∑j=13α2(j)aj1]b