隐马尔可夫模型(HMM)进阶篇——Evaluation 前向&后向算法

前言

不太了解隐马尔可夫模型的可以先看我的上一篇博客：隐马尔可夫模型(HMM)初级篇

基础知识

定义：

• 观测序列 $O$，观测值集合 Q = { q 1 , q 2 , . . . , q N } Q=\{q_1,q_2, ...,q_N\} Q={q1​,q2​,...,qN​}
• 状态序列 $I$，状态值集合 V = { v 1 , v 2 , . . . , v M } V=\{v_1,v_2, ..., v_M\} V={v1​,v2​,...,vM​}
• 初始状态概率向量 $\pi$
• 状态转移概率矩阵 $A$，$a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$
• 观测概率矩阵 $B$，$b_j(k)=P(o_t=v_k|i_t=q_j)$

$\lambda =(\pi ,A,B)$ 为 HMM 三要素。

两个假设：

1. 齐次马尔可夫性假设
   $P(i_t|i_{t-1},o_{t-1},...,i_1,o_1)=P(i_t|i_{t-1}),t=1,2,...,T$
2. 观测独立性假设
   $P(o_t|i_T,o_T,i_{T-1},o_{T-1},...,i_{t+1},o_{t+1},i_t,i_{t-1},o_{t-1},...,i_1,o_1)=P(o_t|i_t)$

HMM的三个问题

1. Evaluation
   $P(O|\lambda )$——分为前向、后向
2. Learning
   $\lambda$ 如何求解？——EM算法（$\lambda =argmaxP(O|\lambda )$）
3. Decoding
   找到最大序列的状态应该是什么？就是找到 $I=argmaxP(I|O)$
   可以引申出两个问题：预测问题——$P(i_{t+1}|o_1,o_2,...,o_t)$预测下一状态的隐状态；滤波问题$P(i_t|o_1,o_2,...,o_t)$

Evaluation

问题描述

即 给出 $\lambda$，求 $P(O|\lambda )$
$$\begin{array}{r}P(O|\lambda )=\sum _{I}P(O,I|\lambda )=\sum _{I}P(O|I,\lambda )\cdot P(I|\lambda )①\end{array}$$

$$\begin{array}{r}P(I|\lambda )=P(i_1,i_2,...,i_T|\lambda )=P(i_T|i_1,i_2,...,i_{T-1},\lambda )\cdot P(i_1,i_2,...,i_{T-1},\lambda )②\end{array}$$

根据 齐次马尔可夫性假设 和状态转移矩阵
$$P(i_T|i_1,i_2,...,i_{T-1},\lambda )=P(i_T|i_{T-1})=a_{i_{T-1},i_T}③$$

同理，再结合条件概率的乘法

$$\begin{array}{rl}P(i_1,i_2,...,i_{T-1},\lambda )& =P(i_{T-1}|i_1,i_2,...,i_{T-2},\lambda )\cdot P(i_{T-2}|i_1,i_2,...,i_{T-3},\lambda )\cdot ...\cdot P(i_2|i_1,\lambda )\cdot P(i_1|\lambda )\\ & =a_{i_{T-2},i_{T-1}}\cdot a_{i_{T-3},i_{T-2}}\cdot ...\cdot a_{i_2,i_1}\cdot \pi (i_1)④\\ P(i_1|\lambda )即\pi (i_1)& \end{array}$$

那么，
$$\begin{array}{rl}P(I|\lambda )& =P(i_1,i_2,...,i_T|\lambda )\\ & =P(i_T|i_1,i_2,...,i_{T-1},\lambda )\cdot P(i_1,i_2,...,i_{T-1},\lambda )\\ & =a_{i_T,i_{T-1}}\cdot a_{i_{T-2},i_{T-1}}\cdot ...\cdot a_{i_2,i_1}\cdot \pi (i_1)\\ & =\pi (i_1)\cdot \prod _{t=2}^T{a}_{i_{t-1},i_t}⑤\end{array}$$

由上面的HMM图解可知，
$$P(O|I,\lambda )=\prod _{t=1}^T{b}_{i_t}(o_t)⑥$$
由⑤⑥可得①为：
$$\begin{array}{rl}P(O|\lambda )& =\sum _I\left[\pi (i_1)\cdot \prod _{t=2}^T{a}_{i_{t-1},i_t}\cdot \prod _{t=1}^T{b}_{i_t}(o_t)\right]\\ & =\sum _{i_1}\sum _{i_2}...\sum _{i_T}\left[\pi (i_1)\cdot \prod _{t=2}^T{a}_{i_{t-1},i_t}\cdot \prod _{t=1}^T{b}_{i_t}(o_t)\right]⑦\end{array}$$

每个 $i$ 都有 $N$ 种可能，那么⑦的复杂度即为 $O(N^T)$，即随着序列长度 $T$ 指数级增长。

可见这种计算方法是十分复杂的，因此需要想其他方法简化计算。

前向算法(Forward Algorithm)

记 ${\alpha }_t(i)=P(o_1,o_2,...,o_t,i_t=q_i|\lambda )$

则 ${\alpha }_T(i)=P(O,i_t=q_i|\lambda )$，这里 $O$即代表$o_1,o_2,...,o_T$

于是，有公式
$$P(O|\lambda )=\sum _{i=1}^{N}P(O,i_t=q_i|\lambda )=\sum _{i=1}^N{\alpha }_T(i)$$

$$\begin{array}{rl}{\alpha }_{t+1}(j)& =P(o_1,o_2,...,o_t,i_t=q_j|\lambda )\\ & =\sum _{i=1}^{N}P(o_1,...,o_t,o_{t+1},i_t=q_i,i_{t+1}=q_j|\lambda )\\ & =\sum _{i=1}^{N}P(o_{t+1}|o_1,...,o_t,i_t=q_i,i_{t+1}=q_j,\lambda )\cdot P(o_1,...,o_t,i_t=q_i,i_{t+1}=q_j,\lambda )\\ & \stackrel{由观测独立性假设}{=}\sum _{i=1}^{N}P(o_{t+1}|i_{t+1}=q_j)\cdot P(o_1,...,o_t,i_t=q_i,i_{t+1}=q_j,\lambda )\\ & =\sum _{i=1}^{N}P(o_{t+1}|i_{t+1}=q_j)\cdot P(i_{t+1}=q_j|o_1,...,o_t,i_t=q_i,\lambda )\cdot P(o_1,...,o_t,i_t=q_i|\lambda )\\ & \stackrel{由齐次马尔可夫性假设}{=}\sum _{i=1}^{N}P(o_{t+1}|i_{t+1}=q_j)\cdot P(i_{t+1}=q_j|i_t=q_i,\lambda )\cdot P(o_1,...,o_t,i_t=q_i|\lambda )\\ & =\sum _{i=1}^{N}P(o_{t+1}|i_{t+1}=q_j)\cdot P(i_{t+1}=q_j|i_t=q_i,\lambda )\cdot {\alpha }_t(i)\\ & =\sum _{i=1}^N{b}_j(o_{t+1})\cdot {\alpha }_t(i)\cdot a_{ij}\end{array}$$

这样就得到了一个递归公式，可以计算 ${\alpha }_T(i)$，从而可算 $P(O|\lambda )$。复杂度为$O(T\times N^2)$。

后向算法(backward algorithm)

记 ${\beta }_t(k)=P(o_{t+1},...,o_T|i_t=q_k,\lambda )$

则 ${\beta }_1(k)=P(o_2,...,o_T|i_1=q_k,\lambda )$

$$\begin{array}{rl}P(O|\lambda )& =P(o_1,o_2,...,o_T|\lambda )\\ & =\sum _{k=1}^{N}P(o_1,o_2,...,o_T,i_1=q_k)\text{(λ是给定值，就不写上去了)}\\ & =\sum _{k=1}^{N}P(o_1,o_2,...,o_T|i_1=q_k)\cdot P(i_1=q_k)\\ & =\sum _{k=1}^{N}P(o_1,o_2,...,o_T|i_1=q_k)\cdot {\pi }_k(P(i_1=q_k)即是初始状态概率{\pi }_k)\\ & =\sum _{k=1}^{N}P(o_1|o_2,...,o_T,i_1=q_k)\cdot P(o_2,...,o_T|i_1=q_k)\cdot {\pi }_k\\ & \stackrel{由观测独立性假设}{=}\sum _{k=1}^{N}P(o_1|i_1=q_k)\cdot P(o_2,...,o_T|i_1=q_k)\cdot {\pi }_k\\ & =\sum _{k=1}^{N}P(o_1|i_1=q_k)\cdot {\beta }_1(i)\cdot {\pi }_k\\ & =\sum _{k=1}^N{b}_k(o_1)\cdot {\beta }_1(k)\cdot {\pi }_k\end{array}$$

$$\begin{array}{rl}{\beta }_t(k)& =P(o_{t+1},...,o_T|i_t=q_k)(同样省略了\lambda )\\ & =\sum _{j=1}^{N}P(o_{t+1},...,o_T,i_{t+1}=q_j|i_t=q_k)\\ & =\sum _{j=1}^{N}P(o_{t+1},...,o_T|i_{t+1}=q_j,i_t=q_k)\cdot P(i_{t+1}=q_j|i_t=q_k)\\ & =\sum _{j=1}^{N}P(o_{t+1},...,o_T|i_{t+1}=q_j,i_t=q_k)\cdot a_{kj}\\ & =\sum _{j=1}^{N}P(o_{t+1},...,o_T|i_{t+1}=q_j)\cdot a_{kj}(这步转换解释见下面)\\ & =\sum _{j=1}^{N}P(o_{t+1}|o_{t+2}...,o_T,i_{t+1}=q_j)\cdot P(o_{t+2}...,o_T,|i_{t+1}=q_j)\cdot a_{kj}\\ & =\sum _{j=1}^{N}P(o_{t+1}|o_{t+2}...,o_T,i_{t+1}=q_j)\cdot {\beta }_{t+1}(k)\cdot a_{kj}\\ & \stackrel{由观测独立性假设}{=}\sum _{j=1}^{N}P(o_{t+1}|i_{t+1}=q_j)\cdot {\beta }_{t+1}(k)\cdot a_{kj}\\ & =\sum _{j=1}^N{b}_j(o_{t+1})\cdot a_{kj}\cdot {\beta }_{t+1}(k)\end{array}$$
相关解释：

1. 通过上式就可以从 ${\beta }_T(k)$ 开始递归推导 ${\beta }_{T-1}(k),...,{\beta }_1(k)$，从而得到$P(O|\lambda )$。复杂度为$O(T\times N^2)$。
2. 
   在贝叶斯网络中，正常来说a和c是有关联的，但一旦给定b，那么会发生阻断，a、c相互独立，有 $P(c|a,b)=P(c|b)$。同理应用到$i_t,i_{t+1},o_{t+1}$，有 $P(o_{t+1}|i_t,i_{t+1})=P(o_{t+1}|i_{t+1})$