机器学习笔记（十五）——HMM序列问题和维特比算法

一、引言

    这篇blog主要讲序列问题和其解法——维特比算法。

二、HMM中的第二个基本问题

序列问题：给定一个观察序列$O=O_1O_2\dots O_T$和模型$u=(\boldsymbol{A,B,\pi})$，如何快速有效地选择在一定意义下”最优”的状态序列$Q=q_1q_2\dots q_T$,使得该状态序列“最好地解释”观察序列？

三、定义最优状态序列

    序列问题的答案并不是唯一的，那是因为它取决于对“最优状态序列的理解”。
定义 最优状态序列 在给定模型$u$和观察序列$O$的条件下，使得条件概率$P(Q|O,u)$最大的状态序列：

$$\hat{Q}=arg \max_Q P(Q|O,u)$$

四、维特比算法

    维特比算法运用动态规划的搜索算法求解这种最优状态序列。为了实现这种搜索，首先定义一个维特比变量$\delta_t(i)$。
定义 维特比变量$\delta_t(i)$ 是在时间$t$时，HMM沿着某一条路径到达状态$s_i$,并输出观察序列$O_1O_2\dots O_t$的最大概率：

$$\delta_t(i) = \max_{q_1,q_2, \dots, q_t-1} P(q_1,q_2, \dots, q_t=s_i, O_1O_2\dots O_t|u)$$
与前向变量类似， $\delta_t(i)$有如下递推关系：
$$\delta_{t+1}(i) = \max_j[\delta_t(j)a_{ji}]b_i(O_{t+1})$$
     为了记录在时间 $t$时，HMM通过哪一条概率最大的路径到达状态$s_i$,维特比算法设置了另外一个变量 $\psi_t(i)$,用于路径记忆，让 $\psi_t(i)$记录该路径上的状态 $s_i$的前一个（在时间 $t-1$）状态。

维特比算法
1. 初始化

$$\delta_1(i) = \pi_ib_i(O_1), 1 \le i \le N \\ \psi_1(i) = 0$$
2. 归纳计算
$$\delta_{t}(j) = \max_{1 \le i \le N}[\delta_{t-1}(i)a_{ij}]b_j(O_t), 2 \le t \le T; 1 \le j \le N\\ 记忆回退路径：\\ \psi_t(j) =arg \max_{1 \le i \le N}[\delta_{t-1}(i)a_{ij}]b_j(O_t), 2 \le t \le T; 1 \le i \le N\\ $$
3. 终结
$$\hat{Q_T} = arg \max_{1 \le i \le N}[\delta_{T}(i)]\\ \hat{P}(\hat{Q_T}) = \max_{1 \le i \le N}[\delta_{T}(i)]\\ $$
4. 路径（状态序列）回溯
$$\hat{q_t} = \psi_{t+1}(\hat{q}_{t+1} ) , t =T-1, T-2, \dots, 1$$
     维特比算法的时间复杂度也是 $O(N^2T)$。