隐马尔科夫模型

隐马尔可夫模型

定义： 隐马尔可夫模型（hidden Markov model，HMM）是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可预测的状态随机序列，再由各个状态生成一个观测从而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列（state sequence）；每一个状态生成一个观测，而由此产生的观测的随机序列，成为观测序列（observation sequence）；序列的每一个位置又可以看作是一个时刻。

---

隐马尔可夫有两个基本假设，其次隐马尔科夫假设和观测独立性假设：

1. 其次隐马尔科夫假设：假设隐藏的隐马尔可夫链在任意时刻的状态只依赖于前一个时刻的状态，与其他时刻的状态及观测无关。
2. 观测独立性假设：假设任意时刻的观测只依赖于该时刻的状态

隐马尔可夫模型由初始状态概率向量$\pi$，状态转移概率矩阵$A$和观测概率矩阵$B$决定。$\pi$和$A$确定了隐藏的马尔可夫链，生成不可观测的状态序列，$B$确定了如何从状态生成观测。因此，隐马尔可夫模型$\lambda$/可用三元组表示，$\lambda =\left(\pi ,A,B\right)$。

下面我们仔细介绍一下各个参数的定义：

• 假设有$N$个状态的状态集合$Q$为： Q = { q 1 , q 2 , ⋯   , q N } Q = \left\{ q_{1}, q_{2}, \cdots, q_{N} \right\} Q={q1​,q2​,⋯,qN​}
• 假设有$M$个观测状态的观测集合$V$为： V = { v 1 , v 2 , ⋯   , v N } V = \left\{ v_{1}, v_{2}, \cdots, v_{N} \right\} V={v1​,v2​,⋯,vN​}
• 假设长度为$T$的状态序列$I$为: $I=\left(i_1,i_2,\cdots ,i_T\right)$，其对应的观测序列$O$为：$O=\left(o_1,o_2,\cdots ,o_T\right)$
• 初始状态变量$\pi$为：$\pi =\left({\pi }_i\right)$，其中$\pi =P\left(i_t=q_i\right)$，是在时刻$t$下处于状态$q$的概率
• 状态转移矩阵$A$为：$A={\left[a_{i,j}\right]}_{N\times N}$ ，其中$a_{i,j}=P\left(i_{t+1}=q_j|i_t=q_i\right)$，表示时刻$t$下的状态$q_i$在时刻$t+1$转移到状态$q_j$的概率
• 观测概率矩$B$为：$B={\left[b_j\left(k\right)\right]}_{N\times M}$，其中$b_j\left(k\right)=P\left(o_t=v_k|i_t=q_j\right)$，表示在时刻$t$下的状态$q_j$下生成观测$v_k$的概率

有了上面的定义，假设给定HMM模型$\lambda =\left(\pi ,A,B\right)$ 和观测序列 O = { o 1 , o 2 , ⋯   , o N } O = \left\{ o_{1}, o_{2}, \cdots, o_{N} \right\} O={o1​,o2​,⋯,oN​} ，要怎么计算观测序列$O$出现的概率$P\left(O|\lambda \right)$。有三种方法，我们一一讲解。

直接计算法

1. 首先计算状态序列$I$的概率为$P\left(I|\lambda \right)={\pi }_{i_1}{a}_{i_1,i_2}\cdots a_{i_{T-1},i_T}$
2. 再者计算在状态序列$I$下的观测序列$O$的概率为$P\left(O|I,\lambda \right)=b_{i_1}\left(o_1\right)b_{i_2}\left(o_2\right)\cdots b_{i_T}\left(o_T\right)$
3. 随后状态序列$I$和观测序列$O$的联合概率为$P\left(O,I|\lambda \right)={\pi }_{i_1}{b}_{i_1}\left(o_1\right)a_{i_1,i_2}{b}_{i_2}\left(o_2\right)\cdots a_{i_{T-1},i_T}{b}_{i_T}\left(o_T\right)$
4. 最后对所有的状态序列$I$进行求和，计算
   $$\begin{array}{cc}P\left(Q|\lambda \right)& ={\sum }_{I}P\left(O|I,\lambda \right)P\left(I|\lambda \right)\\ & ={\sum }_{i_1,\cdots ,i_T}{\pi }_{i_1}{b}_{i_1}\left(o_1\right)a_{i_1,i_2}{b}_{i_2}\left(o_2\right)\cdots a_{i_{T-1},i_T}{b}_{i_T}\left(o_T\right)\end{array}$$

使用直接计算法，看公式就能看到繁重的计算量，加快计算速度，下面介绍前向算法和后向算法。前向概率是由前向后计算，局部计算前向概率，每一次的计算直接引用前一个时刻的计算成果。

前向算法

对于隐马尔可夫模型$\lambda$，定义时刻t的状态为$q_i$，且到该时刻下的观测序列$o_1,\cdots ,o_t$的概率为前向概率${\alpha }_t\left(i\right)=P\left(o_1,\cdots ,o_t,i_t=q_i|\lambda \right)$；那么${\alpha }_t\left(i\right){\alpha }_{ij}$就是在时刻$t$状态为$q_i$时且在时刻$t+1$处于状态$q_j$时观测到$o_1,\cdots ,o_t$的联合概率；对${\alpha }_t\left(i\right){\alpha }_{ij}$在时刻$t$下的所有可能的$N$个状态进行求和计算，其结果就是到时刻$t$观测为$o_1,\cdots ,o_t$并在时刻$t+1$处于状态$q_j$的联合概率；最后再与$b_i\left(o_{t+1}\right)$相乘，其结果恰好是到当时刻$t+1$的状态为$q_j$时，观测到$o_1,\cdots ,o_{t+1}$的概率，即是${\alpha }_{t+1}\left(i\right)$。

HMM的前向算法的计算步骤如下：

1. 初始化：${\alpha }_1\left(i\right)={\pi }_i{b}_i\left(o_1\right),i=1.\cdots ,N$
2. 对每一个时刻$t=1,\cdots ,T$
   $${\alpha }_{t+1}\left(i\right)=\left[\sum _{j=1}^N{\alpha }_t\left(j\right){\alpha }_{ji}\right]b_i\left(o_{t+1}\right),i=1,2,\cdots ,N$$
3. 最后:
   $ P \left(Q | \lambda \right) = \sum_{i=1}^{N} \alpha_{T} \left ( i \right )$

后向算法

对于隐马尔可夫模型$\lambda$，定义时刻t的状态为$q_i$，从$t+1$时刻到时刻$T$的观测序列$o_{t+1},\cdots ,o_T$的概率为后向概率$\beta \left(i\right)=P\left(o_{t+1},\cdots ,o_T|i_t=q_i,\lambda \right)$

类似于前向计算的思路，这次计算是由后向前计算，步骤如下：

1. 初始化为$\beta \left(i\right)=1,i=1,2,\cdots ,N$
2. 将时刻$t$从后向前编列$t=T-1,\cdots ,1$
   ${\beta }_t\left(i\right)={\sum }_{j=1}^N{\alpha }_{ij}{b}_j\left(o_{t+1}\right){\beta }_{t+1}\left(j\right),i=1,2,\cdots ,N$
3. 最后:
   $P\left(Q|\lambda \right)={\sum }_{i=1}^N{\pi }_i{b}_i\left(o_1\right){\beta }_1\left(i\right)$

参考

1. 统计学习方法（第二版）