隐马尔科夫模型(HHM)原理详解

隐马尔科夫模型（Hidden Markov Model，HHM）是一种有向图模型，属于生成式模型，考虑联合概率分布。

HHM有两组变量，第一组是状态变量 I = { i 1 , i 2 , . . . . . , i T } I = \{i_1, i_2,....., i_T\} I={ i1​,i2​,.....,iT​}，$i_t$表示第t时刻的状态，通常假定状态变量是不可被观测的、隐藏的，这应该也是名字的由来吧；

第二组变量是观测变量， O = { o 1 , o 2 , . . . . , o T } O = \{o_1, o_2,....,o_T\} O={ o1​,o2​,....,oT​}，$o_t$表示第t时刻的观测值。

为了更好地理解，我们这是假设O是离散变量，并且假定O的取值范围为$V=v_1,v_2,...,v_M$

还有一个状态I的枚举值，即不同时刻的状态是在 Q = { q 1 , q 2 , . . . . . , q N } Q=\{q_1, q_2,.....,q_N\} Q={ q1​,q2​,.....,qN​}之间转换的。

一、马尔科夫链

首先，在了解HHM之前，我们需要知道**马尔科夫链：**在任一时刻t，观测变量的取值$o_t$仅依赖于当前的状态变量$i_t$，与其他时刻的状态变量及观测变量无关；同时，当前的状态值$i_t$仅依赖于前一个时刻的状态$i_{t-1}$，与状态无关。

如下图：

二、隐马尔科夫模型原理

HHM就是基于这种马尔科夫链的，即基于以上的假设，所以它的联合概率分布为：

$$P(o_1,i_1,...,o_T,i_T)=P(i_1)P(o_1|i_1)\prod _{i=2}^{T}P(i_i|i_{i-1})P(o_i|i_i)$$

这就是HHM的模型结构了。一个模型肯定还包含参数，机器学习的本质就是找到一组最优的参数，使得模型的拟合效果最好，HHM也不例外。

那么，HHM的参数包括以下3组：

1. 状态转移概率A：$a_{ij}=P(i_{t+1}=q_j|i_t=q_i),1<=i,j<=N$，即t时刻状态为$q_i$时，t+1时刻状态为$q_j$的概率
2. 输出观测概率B：$b_j(k)=P(o_t=q_k|i_t=q_j),1<=j<=N,1<=k<=M$，即t时刻的状态为$q_i$时，观测值为$o_j$的概率
3. 初设状态概率${\pi }_i$：$\pi =({\pi }_1,{\pi }_2,...,{\pi }_N),1<=i<=N$，即初设时刻各状态出现的概率。

那么，给定一个隐马尔科夫模型，它产生观测序列的步骤如下 { o 1 , o 2 , . . . . , o T } \{o_1, o_2,....,o_T\} { o1​,o2​,....,oT​}：

(1) 当t = 1时，根据初设状态概率$\pi$选择初设状态$i_1$；

(2) 根据状态$i_t$和输出观测概率B选择观测值$o_t$；

(3) 根据状态$i_t$和状态转移概率A确定$i_{t+1}$；

(4) 当t < T，令t = t + 1，并跳转至第2步，否则终止，观测序列已全部生产完毕。

三个基本问题

1. 概率计算问题。给定模型$\lambda =(A,B,\pi )$和观测序列 O = { o 1 , o 2 , . . . . , o T } O = \{o_1, o_2,....,o_T\} O={ o1​,o2​,....,oT​}，计算观测序列O出现的概率$P(O|\lambda )$
2. 学习问题。已知观测序列 O = { o 1 , o 2 , . . . . , o T } O = \{o_1, o_2,....,o_T\} O={ o1​,o2​,....,oT​}，估计模型参数$\lambda =(A,B,\pi )$，使得观测序列概率$P(O|\lambda )$最大
3. 预测问题。给定模型$\lambda =(A,B,\pi )$和观测序列 O = { o 1 , o 2 , . . . . , o T } O = \{o_1, o_2,....,o_T\} O={ o1​,o2​,....,oT​}，求对给定观测序列条件概率P(I|O)最大的隐藏状态 I = { i 1 , i 2 , . . . . . , i T } I = \{i_1, i_2,....., i_T\} I={ i1​,i2​,.....,iT​}

三、概率计算

1. 前向算法

给定隐马尔科夫模型$\lambda$，至时刻t的观测序列为 { o 1 , o 2 , . . . . , o t } \{o_1, o_2,....,o_t\} { o1​,o2​,....,o