隐马尔科夫模型三大问题

关于隐马尔科夫模型以及三大问题的相关概念，在之前一篇博客已经介绍过，这里就不再介绍了。这篇博客的主要内容是通过一个例子介绍解决隐马尔科夫模型三大问题的算法。

下面给出例子。

其中三种可观测的值是(walk,shop,clean)，隐含的状态是(rainy,sunny)。你可以简单理解为你和你的女朋友异地恋，你的女朋友在她的城市每天所做的事情和你报备，但是你不知道她的城市天气如何。

对于这个例子的三大问题描述是：
（1）已知整个模型，观测到连续三天做的事情是：walk,shop,clean，根据模型求产生这些行为的概率是多少？
（2）同样已知模型，同样连续三天所做的事情是：walk,shop,clean，求这三天的天气如何？
（3）已知这三天所做的事情是：walk,shop,clean，其他什么全都不知道，求这个模型？

遍历算法

即直接计算法，该算法用于解决第一种问题。参考李航的《统计学习方法》一书，给出此方法的数学表述。

给定模型$\lambda (A,B,\pi )$，以及观测序列$O=(o_1,o_2,\cdots ,o_T)$，计算观测序列$O$出现的概率$P(O|\lambda )$。通过列举所有可能的长度为$T$的状态序列$I=(i_1,i_2,\cdots ,i_T)$，求状态序列$I$和观测序列$O$的联合概率$P(O,I|\lambda )$，然后对此求和，得到$P(O|\lambda )$。

状态序列$I=(i_1,i_2,\cdots ,i_T)$的概率是$$P(I|\lambda )={\pi }_{i_1}{a}_{i_1{i}_2}{a}_{i_2{i}_3}\cdots a_{i_{T-1}{i}_T}$$对固定的状态序列$I=(i_1,i_2,\cdots ,i_T)$，观测序列$O=(o_1,o_2,\cdots ,o_T)$的概率是$$P(O|I,\lambda )=b_{i_1}(o_1)b_{i_2}(o_2)\cdots b_{i_T}(o_T)$$$O$和$I$同时出现的联合概率$$P(O,I|\lambda )=P(O|I,\lambda )P(I|\lambda )$$然后求和得到$$P(O|\lambda )=\sum _{I}P(O,I|\lambda )=\sum _{I}P(O|I,\lambda )P(I|\lambda )$$

在本例中，观测序列$O$就是walk,shop,clean（之后用w,s,c表示），而状态序列$I$则是rainy,sunny（之后用R，S表示）的排列组合，比如说这三天可以是(R，R，R)，或者(R，S，R)。这样的排列组合总共有八种，我们只需要计算在这八种情况下(w,s,c)的概率分别是多少，然后求和就行了。

比方说，对于(R，R，R)的情况下连续三天做了(w,s,c)的概率是$$P(w,s,c|R,R,R)=P(R1)\ast P(w|R1)\ast P(R2|R1)\ast P(s|R2)\ast P(R3|R1,R2)\ast P(c|R3)$$带入数值$$P(w,s,c|R,R,R)=0.6\ast 0.1\ast 0.7\ast 0.4\ast 0.7\ast 0.5=0.0058$$这就是连续三天下雨并且做了(w,s,c)的概率。同样道理，求出其他几种情况下(w,s,c)的概率，然后求和（这里就不算了），最终得到的就是我们要求的$P(O|\lambda )$。

对于本例来说，状态序列和观测序列并不是很多，或许可以用此方法计算，但是如果状态序列和观测序列很多的情况下，该算法的计算量是很庞大的，是$O(T{N}^T)$阶的（这里$N^T$是指所有可能的状态序列，在本例中就是$2^3=8$种可能），所以这种方法是不可行的。下面介绍计算$P(O|\lambda )$的有效算法：前向-后向算法。

前向算法

首先根据《统计学习方法》给出前向概率的定义：给定隐马尔科夫模型$\lambda$，定义到时刻$t$部分观测序列为$o_1,o_2,\cdots ,o_t$且状态为$q_i$的概率为前向概率，记为$${\alpha }_t(i)=P(o_1,o_2,\cdots ,o_t,i_t=q_i|\lambda )$$可以递推地求出前向概率${\alpha }_t(i)$及观测序列概率$P(O|\lambda )$。

该算法可以分为以下几步：
（1）初值$${\alpha }_1$$