隐马尔科夫模型（HMM）：状态序列预测

引言

给定模型参数和观测序列，预测令观测序列出现概率最大的状态序列时，有两种解决思路：一种是采用贪心思想的近似算法，另一种是采用动态规划思想的维特比算法。

近似算法

这是一种采用贪心算法，它在给定模型参数和观测序列下，独立考虑每个时刻出现概率最大的状态 $q_i$ 作为该时刻状态的推论 $s_t^{\ast }=q_i$，从而得到一个状态序列的推论 $S^{\ast }=(s_1^{\ast },s_2^{\ast },\cdots ,s_T^{\ast })$ 。

在给定模型参数和观测序列下，$t$ 时刻处于状态 $q_i$ 的概率为 ${\gamma }_t(q_i)$¹，所以 $t$ 时刻状态的推论 $s_t^{\ast }$ 为：
$$s_t^{\ast }=\underset{1\le i\le N}{\mathrm{argmax}}[{\gamma }_t(q_i)]$$状态序列的推论为：

$$S^{\ast }=(\underset{1\le i\le N}{\mathrm{argmax}}[{\gamma }_1(q_i)],\underset{1\le i\le N}{\mathrm{argmax}}[{\gamma }_2(q_i)],\cdots ,\underset{1\le i\le N}{\mathrm{argmax}}[{\gamma }_T(q_i)])$$
近似算法计算简单 ，但不能保证取得全局最优解，因为此方法推论出的状态序列中可能存在状态转移概率为0的相邻状态（即对某些 $i,j,a_{ij}=0$），所以有些单独看出现概率很高的状态，实际在该时刻是不可能发生的。尽管如此，近似算法仍然是十分有用的。

维特比算法

维特比算法用动态规划（dynamic programming）求概率最大路径（最优路径）的思想来推论HMM模型的状态序列，此时每条路径对应一种可能状态序列。

给定模型参数，定义到 $t$ 时刻部分观测序列为 $o_1,\cdots ,o_t$ 且部分状态序列为 $s_1,\cdots ,s_t$ 的概率为路径权重，记作：
$${\delta }_t(q_i)=P(s_1,\cdots ,s_t=q_i,o_1,\cdots ,o_t|\lambda )\text{\hspace{1em}(1)}$$

所以，状态转移方程可表示为：

$${\delta }_{t+1}(q_i)=\underset{1\le j\le N}{\max }P(s_1,\cdots ,s_t=q_j,s_{t+1}=q_i,o_1,\cdots ,o_t,o_{t+1}|\lambda )\text{\hspace{1em}(2)}$$

根据HMM模型的齐次马尔科夫性假设和观测独立性假设，$式(2)$中的条件概率

$$P(s_1,\cdots ,s_t=q_j,s_{t+1}=q_i,o_1,\cdots ,o_t,o_{t+1}|\lambda )=P(s_1,\cdots ,s_t=q_j,o_1,\cdots ,o_t|\lambda )P(s_{t+1}=q_i|s_t=q_j)P(o_{t+1}|s_{t+1}=q_i)$$
所以状态转移方程可改写为：

$${\delta }_{t+1}(q_i)=\underset{1\le j\le N}{\max }{\delta }_t(q_j)a_{ji}{b}_i(o_{t+1}),t=1,\cdots ,T-1\text{\hspace{1em}(3)}$$

初始条件为：当 $t=1$ 时，
$${\delta }_1(q_i)={\pi }_i{b}_i(o_1)\text{\hspace{1em}(4)}$$

综上，可将所有情况的状态转移方程统一写成如下形式：

$${\delta }_t(q_i)=\{\begin{array}{l}{\pi }_i{b}_i(o_1),t=1\\ \\ {\max }_{1\le j\le N}{\delta }_{t-1}(q_j)a_{ji}{b}_i(o_t),t=2,3,\cdots ,T\end{array}\text{\hspace{1em}(5)}$$
并由此得出维特比算法状态序列的推论：

$$S^{\ast }=(s_1^{\ast },s_2^{\ast },\cdots ,s_T^{\ast })=\underset{1\le i\le N}{\mathrm{argmax}}{\delta }_T(\ast \ast q_i\ast \ast )\text{\hspace{1em}(6)}$$

---

1. 具体推导请详见作者文章：隐马尔科夫模型（HMM）：计算观测序列的出现概率 ↩︎