隐马尔科夫模型——维特比算法

前言

隐马尔科夫有三个基本问题：概率问题、学习问题、预测问题。本文主要讨论预测问题的解法——维特比算法。阅读本文的前提是已经明白什么是隐马尔科夫模型（三要素、基本假设）。本文的所有符号及解释，请查看上一篇博客：隐马尔科夫模型——基本概念

什么是预测问题##

预测问题又称之为解码问题，是指：已知状态转移矩阵、观测矩阵和观测序列，求该序列下最有可能的状态序列。

已知模型$\lambda =(A,B,\pi )$和观测序列$O=(o_1,o_2,...,o_T)$，求使条件概率$P(I|O)$最大的状态序列$I=(i_1,i_2,...,i_T)$。

维特比算法

维特比算法实际是用动态规划解决预测问题——求概率最大的路径（最优路径）最优路径具有这样的特性：如果最优路径在t时刻经过状态节点i，那么该节点到状态序列终点所经过的路径也一定是最优路径。假如不是，那么从该节点到终点就会有另外一条更有路径存在，再连接上起点到该状态节点i，会产生一条新的最优路径，原路径就不是最优的了。这是矛盾的。个人觉得类似迪杰斯特拉求最短路算法。

首先，提到两个变量：$\delta$和$\psi$

${\delta }_t(i)$代表在时刻t状态为i的所有路径$(i_1,i_2,...,i_t)$中概率最大值。$${\delta }_t(i)=maxP(i_t=i,i_{t-1},...,i_1,o_t,...,o_1|\lambda )$$即时刻1到时刻t的观测状态已确定，时刻1到时刻t-1不可观测状态序列也已确定，时刻t的状态选定后，最大概率是多少。变量$\delta$的递推公式为：$${\delta }_{t+1}(i)=max[{\delta }_t(j)a_{ji}]b_i(o_{t+1})$$代表时刻t位于状态j，时刻t+1位于转移到状态i且观测到$o_{t+1}$的最大概率。此时我们并没有找到那个时刻t的最可能状态j（使时刻1到t的观测序列确定，时刻1到t-1的不可观测状态确定条件下，使当前概率最大的状态），但我们找到了该最可能状态求得的最大概率是多少。我们递推计算直到时刻T状态为j的各条路径的最大概率，就得到了最优路径的概率P。从而最优路径的终点状态$i_T^{\ast }$也同时得到。随后，为了求出最优路径上的各个节点，从最终节点开始，由后往前（利用下面的变量$\psi$）逐步求得使下一个时刻概率最大的当前时刻状态，就可以得打最优路径各个节点，这就是维特比算法。

$\psi$代表时刻t状态为i所有单个路径$(i_1,i_2,...,i_{t-1},i)$中概率最大的路径的第t-1个节点为：$${\psi }_t(i)=argmax[{\psi }_{t-1}(j)a_{ji}]，i=1,2,...,N$$代表从时刻t-1状态j转移到时刻t状态i概率最大时，时刻t-1的状态j是哪一个状态。

算法过程

通俗来说，每次计算当前观测下，最可能的状态序列。例如，整个模型序列有M个状态{1,2,…,M}，N种观测结果，时刻1下，得到每种状态获得唯一确定观测结果的概率，计算得到M个概率值。到时刻2，对于M个状态的每一个状态，都计算所有时刻1状态转移到该状态且生成当前观测结果的概率，得到M个概率值，取其中最大的那个如M11,代表生成指定观测下状态序列是“11”的概率最大，并记录标号1，用来后续回溯找路径备用。这样时刻2最终也获得M个概率值，以此递归计算。最后一个时刻，取生成概率最大的状态序列即可。

1. 初始化：$${\delta }_1(i)={\pi }_i{b}_i(o_1)，i=1,2,...,N$$$${\psi }_1(i)=0，i=1,2,...,N$$
2. 递推：对t=2,3,…,T$${\delta }_t(i)=max[{\delta }_{t-1}(j)a_{ji}]b_i(o_t)，i=1,2,..,N$$$${\psi }_t(i)=argmax[{\delta }_{t-1}(j)a_{ji}]，i=1,2,...,N$$
3. 终止$$P^{\ast }=max{\delta }_T(i)$$$$i_T^{\ast }=argmax[{\delta }_T(i)]$$
4. 最优路径回溯：对t=T-1,…,1$$i_t^{\ast }={\psi }_{t+1}(i_{t+1}^{\ast })$$求得最优路径$I^{\ast }=(i_1^{\ast },i_2^{\ast },...,i_T^{\ast })$

举例计算##

应用问题已经在上一篇隐马尔科夫模型——基本概念中举过，不再重复描述。本例稍微在原来基础上改变实验次数为三次，转移矩阵概率和观测概率重新设置，具体如下：