HMM经典介绍论文【Rabiner 1989】翻译（七）——预测问题

3.2 问题2的求解（预测问题）

有多种方法可以求解与观测序列相关的最优状态序列。难度在于最优状态序列的定义，因为有多种优化指标。比如，可以独立地为每个时刻$t$选择最有可能的状态$q_t$。这个优化指标最大化正确状态的期望个数。定义变量

$$\gamma_t(i)=P(q_t=S_i|O, \lambda) \tag{26},$$

即给定模型$\lambda$和观测序列$O$，在时刻$t$状态为$S_i$的概率。公式(26)可以用前向-后向变量来表示：

$$\gamma_t(i)=\frac{\alpha_t(i) \beta_t(i)}{P(O|\lambda)} = \frac{\alpha_t(i) \beta_t(i)}{\sum_{i=1}^N \alpha_t(i) \beta_t(i)}. \tag{27}$$

分母是归一化因子，使得$\gamma_t(i)$满足概率性质：

$$\sum_{i=1}^N \gamma_t(i) = 1. \tag{28}$$

利用$\gamma_t(i)$,我们可以求解在时刻$t$最有可能的状态$q_t$：

$$q_t = \arg \max_{1\leq i \leq N} [\gamma_t(i)], \quad 1 \leq t \leq T. \tag{29}$$

尽管(29)最大化正确状态的期望个数，但是得到的状态序列是有问题的。当有些HMM状态转移概率为0时，最优状态序列可能不是一个有效的状态序列。这是因为(29)只简单地确定每个时刻最优可能的状态，没有考虑状态序列出现的可能性。

一个可能的解决方法是修改这个优化指标。比如，通过最大化正确状态对$(q_t, q_{t+1})$的个数来求解状态序列。虽然这类指标对可能对某些应用是合理的，但是使用最广泛的指标是找到最好的状态序列，即最大化$p(Q|O, \lambda)$，等价于最大化$P(Q, O| \lambda)$。动态规划可以用于求解这个优化问题，在这里被称为Viterbi算法。

Viterbi算法：为了找到观测序列$O=\{O_1O_2\cdots O_T\}$的最优状态序列$Q=\{q_1 q_2 \cdots q_T\}$，我们定义

$$\delta_t(i) = \max_{q_1, q_2, \cdots, q_{t-1}} P [q_1q_2\cdots q_t=i, O_1O_2\cdots O_t| \lambda] \tag{30},$$

$\delta_t(i)$是在时刻$t$状态为$S_i$的且到$t$时刻观测序列为$O_1O_2\cdots O_t$的所有路径中概率最大的那个。通过递推，可以得到

$$\delta_{t+1}(j) = [\max_{i} \delta_t(i) a_{ij}] \cdot b_j(O_{t+1}). \tag{31}$$

为了得到状态序列，我们需要保存使(31)最大的参数，即每个时刻$t$对应的$j$。这可以通过一个数组$\psi_t(j)$实现。完整Viterbi算法是：

1）初始化：

$$\delta_1(i)=\pi_ib_i(O_1), \quad 1\leq i \leq N \tag{32a}$$

$$\psi_1(i)=0. \tag{32b}$$

2）递归：

$$\delta_t(j) = \max_{1\leq i \leq N}[\delta_{t-1}(i) a_{ij}]b_j(O_t), \quad 2 \leq t \leq T, 1\leq j \leq N \tag{33a}$$

$$\psi_t(j) = \arg \max_{1\leq i \leq N} [\delta_{t-1}(i)a_{ij}], \quad 2 \leq t \leq T, 1\leq j \leq N. \tag{33b}.$$

3）终止：

$$P^* = \max_{1\leq i \leq N}[\delta_T(i)] \tag{34a}$$

$$q^*_T=\arg\max_{1\leq i \leq N} [\delta_T(i)]. \tag{34b}$$

4）路径回溯：

$$q_t^* = {\psi}_{t+1}(q_{t+1}^*), \quad t=T-1, T-2, \cdots, 1. \tag{35}$$

Viterbi算法和前向计算过程有点类似，主要区别在于(33a)中的最大化替代了(20)中的求和。