机器学习:隐马尔可夫模型——预测算法

问答总结

• 近似算法的思想是什么，方法是怎样的？
• 维秘特算法的思想是什么，方法是怎样的？

---

一、目标

前文说过，预测问题可以描述为:

已知模型$\lambda =(A,B,\pi )$和观测序列$O=o_1,o_2,...,o_T$.求最可能对应的不可观测状态序列 I = { i 1 , i 2 , . . . , i T } I=\{i_1, i_2, ..., i_T\} I={i1​,i2​,...,iT​}. 即:$$I^{\ast }=arg\underset{I}{\max }P(I|O,\lambda )$$

二、近似算法

1、思想

在每个时刻$t$选择该时刻最可能出现的状态$i_t^{\ast }$, 从而得到状态序列$I^{\ast }=(i_1^{\ast },i_2^{\ast },...,i_T^{\ast })$.

2、方法

回想概率计算方法，我们得到了一个很重要的概率值:
$${\gamma }_t(i)=P(i_t=q_i|O,\lambda )=\frac{{\alpha }_t(i){\beta }_t(i)}{{\sum }_{j=1}^N{\alpha }_t(j){\beta }_t(j)}$$
其含义为: 给定模型$\lambda$和观测$O$, 在时刻$t$处于状态$q_i$的概率。

因此每个时刻$t$最可能的状态$i_t^{\ast }$为:

$$i_t^{\ast }=arg\underset{1\le i\le N}{\max }[{\gamma }_t(i)],t=1,2,...,T$$

这样，我们就可以得到状态序列$I^{\ast }=(i_1^{\ast },i_2^{\ast },...,i_T^{\ast })$.

三、维比特算法

1、思想

预测问题的目标是$$I^{\ast }=arg\underset{I}{\max }P(I|O,\lambda )$$
由于状态序列$O$和模型$\lambda$已知，因此$P(O|\lambda )$为一个常数，所以有：

$$I^{\ast }=arg\underset{I}{\max }P(I|O,\lambda )=arg\underset{I}{\max }\frac{P(I,O|\lambda )}{P(O|\lambda )}=arg\underset{I}{\max }P(I,O|\lambda )$$

因此在预测问题中，我们可以转而对联合概率建模。找到联合概率最大的一个状态序列。

2、方法

将T步，每步可选状态数为N的状态序列的所有可能描述为一个图，其中图的一条路径等价于一个状态序列。 下图为序列长度：$T=3$，状态数目：$N=3$的所有路径。其中一条路径是对应一个状态序列，也对应着一个联合概率$P(o_1,o_2,o_3,i_1,i_2,i_3|\lambda )$。其中 i ∗ ∈ { A , B , C } i_* \in \{A, B, C\} i∗​∈{A,B,C}, $o_{\ast }$为已知的观测，$\lambda$为已知模型。

最简单的，我们可以通过暴力搜索，求出每一条路径对于的概率，然后选取概率最大的那条路径，即为所求状态序列。但是复杂度太高，为$O(N^T)$

仔细观察，这对应着一个有向无环图(DAG)， 其最大联合概率路径很容易可以使用动态规划方法求出。

因此来到动态规划问题求解步骤:

• (1) 定义状态:

  • 在时刻$t$状态为$i$的最大联合概率: $${\delta }_t(i)=\underset{i_1,i_2,...i_{t-1}}{\max }P(i_t=i,i_{t-1},...,i_1,o_t,...,o_1|\lambda )$$
  • 在时刻$t$状态为$i$的最大联合概率路径的前一个节点，即时刻$t-1$的结点(相当于路径回溯的指针): $${\Psi }_t(i)=arg\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)a_{ji}]$$

• (2) 目标状态:

  • 路径最大联合概率：$$P^{\ast }=\underset{1\le i\le N}{\max }{\delta }_T(i)$$
  • 所求路径最后一个状态节点: $$i_T^{\ast }=arg\underset{1\le i\le N}{\max }[{\delta }_T(i)]$$

• (3) 状态转移:

  • 状态转移图:
    
  • 状态转移方程:
    $${\delta }_t(i)=\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)a_{ji}]b_i(o_t),i=1,2,...,N$$
    $${\Psi }_t(i)=arg\underset{1\le j\le N}{\max }[{\delta }_{t-1}(j)a_{ji}]b_i(o_t),i=1,2,...,N$$

• (4) 初始化:
  $${\delta }_1(i)={\pi }_i{b}_i(o_1),i=1,2,...,N$$
  $${\Psi }_1(i)=0,i=1,2,...,N$$

• (5) 回溯

由于所求不只是一个概率，而是一条路径，因此最后回溯:$$i_t^{\ast }={\Psi }_{t+1}(i_{t+1}^{\ast }),t=T-1,T-2,...,1$$