隐马尔科夫模型（二）

概率计算算法

给定模型$\lambda =(A,B,\pi )$,观测序列$O=(o_1,o_2,\dots o_T)$,计算在模型$\lambda$下观测序列O出现的概率
这被称作概率计算问题

主要介绍计算观测序列概率$P(O|\lambda )$的前向与后向算法。
先介绍概念上可行但计算上不可行的直接计算法

直接计算法：
给定模型$\lambda =(A,B,\pi )$,和观测序列$O=(o_1,o_2,\dots o_T)$，计算观测序列O出现的概率$P(O|\lambda )$。最直接的方法是按概率公式直接计算。通过列举所有可能的长度为T的状态序列$I=(i_1,i_2,\dots i_T)$，求各个状态序列$I$与观测序列$O=(o_1,o_2,\dots o_T)$的联合概率分布$P(O,I|\lambda )$,然后对所有的状态序列求和，得到$P(O|\lambda )$
（由联合概率求边缘概率的思想）

状态序列$I=(i_1,i_2,\dots i_T)$的概率是：$P(I|\lambda )={\pi }_{i_1}{a}_{i_1{i}_2}{a}_{i_2{i}_3}\dots \dots a_{i_{T-1}{i}_T}$ (1)

对于固定的状态序列$I=(i_1,i_2,\dots i_T)$,观测序列$O=(o_1,o_2,\dots o_T)$的概率是$P(O|I,\lambda )$

$P(O|I,\lambda )=b_{i_1}(o_1)b_{i_2}(o_2)\dots b_{i_T}(o_T)$

$O和I同时出现的联合概率为：P(O,I|\lambda )=P(O|I,\lambda )P(I|\lambda )={\pi }_{i_1}{b}_{i_1}(o_1)a_{i_1{i}_2}{b}_{i_2}(o_2)\dots a_{i_{T-1}{i}_T}{b}_{i_T}(o_T)$

然后对所有可能的状态序列$I$求和，得到观测序列O的概率$P(O|\lambda )$

即：$P(O,I|\lambda )=\sum _{I}P(O|I,\lambda )P(I|\lambda )=\sum _{i_1,i_2\dots i_T}{\pi }_{i_1}{b}_{i_1}(o_1)a_{i_1{i}_2}{b}_{i_2}(o_2)\dots a_{i_{T-1}{i}_T}{b}_{i_T}(o_T)$

直接计算法是$O(T{N}^T)$阶的，算法不可行。下面介绍计算观测序列概率的有效算法-----前向算法与后向算法

前向算法

**前向概率：**给定隐马尔科夫模型$|\lambda$,定义到时刻t部分观测序列为$o_1,o_2,\dots o_t$且状态为$q_i$的概率为前向概率，记作
${\alpha }_t(i)=P(o_1,o_2\dots \dots o_t,i_t=q_i|\lambda )$(时刻t、部分观测序列$o_1,o_2\dots \dots o_t$、t时刻的状态q_i)

可以递推的求得前向概率${\alpha }_t(i)$及观测概率$P(O|\lambda )$

观测序列概率的前向算法：

输入：隐马尔科夫模型$\lambda$,观测序列O
输出：观测序列概率$P(O|\lambda )$

1)初值 ${\alpha }_1(i)={\pi }_i{b}_i(o_1),i=1,2,\dots \dots N$时刻1观测为$o_1$且状态为$q_i$
(时刻1各个状态的概率恰好是${\pi }_i$的各个分量，这N个状态对应到观测$o_1$的观测概率为$b_i(o_1)$)

2)递推 对t=1,2……T-1

${\alpha }_{t+1}(i)=[\sum _{j=1}^N{\alpha }_t(j){\alpha }_{ji}]b_i(o_{t+1}),i=1,2,\dots \dots N$ (2)

3）终止 $P(O|\lambda )=\sum _{i=1}^N{\alpha }_T(i)$

对于步骤1），初始化前向概率。是初始时刻的状态 $i_1=q_i$和观测$o_1$的联合概率。（前向概率的定义）
由前向概率定义可知
${\alpha }_1(i)=P(o_1,i_1=q_i|\lambda )=P(i_1=q_i)P(o_1|q_i)={\pi }_i{b}_i(o_1)$

2)步骤是前向概率的递推公式，计算到时刻t+1部分观测序列为$o_1,o_2\dots \dots o_t,o_{t+1}$且在时刻t+1处于状态q_i的前向概率。如下图所示：

1）在式2 中的方括号里。既然${\alpha }_t(j)$是到时刻t观测到$o_1,o_2\dots \dots o_t$并在时刻t处于状态$q_j$的前向概率。
2）那么乘积${\alpha }_t(j){\alpha }_{ji}$就是到时刻t观测到$o_1,o_2\dots \dots o_t$并在时刻t处于状态$q_j$而在时刻t+1到达状态$q_i$的联合概率。
3）对这个乘积在时刻t的所有可能的N个状态$q_j$求和，其结果就是到时刻t观测为$o_1,o_2\dots \dots o_t$并在时刻t+1处于状态$q_i$的联合概率。（求和的作用是把时刻t的各种状态考虑进去）
4）方括号里的值与观测概率$b_i(o_{t+1})$的乘积恰好是到时刻t+1观测到$o_1,o_2\dots \dots o_t,o_{t+1}$并且在时刻t+1处于状态$q_i$的前向概率${\alpha }_{t+1}(j)$

步骤3）给出了$P(O|\lambda )$的计算公式。因为
${\alpha }_T(i)=P(o_1,o_2\dots \dots o_T,i_T=q_i|\lambda )$(此时的状态仍然有N个可能,也就是说到最后时刻T，这么多条状态序列都能得到想要的观测序列，所以需要求和)
因此：
$P(O|\lambda )=\sum _{i=1}^N{\alpha }_T(i)$

前向算法实际上是基于“状态序列的路径结构”递推计算$P(O|\lambda )$的算法。
前向算法的高效的关键是其局部的计算前向概率，然后利用路径结构将前向的概率递推到全局得到$P(O|\lambda )$

具体的，
1）在时刻t=1,计算${\alpha }_1(i)$的N个值$i=1,2\dots \dots N$
2）在各个时刻t=1,2……T-1，计算${\alpha }_{t+1}(i)$的N个值（i=1,2……N）
而且每个${\alpha }_{t+1}(i)$的计算利用前一时刻N个${\alpha }_t(i)$

后向算法

后向概率：给定隐马尔科夫模型$\lambda$,定义在时刻t状态为$q_i$的条件下，从t+1到T的部分观测序列为$o_{t+1},o_{t+2}\dots o_T$的概率为后向概率，记作${\beta }_t(i)=P(o_{t+1},o_{t+2}\dots o_T|i_t=q_i,\lambda )$

观测序列概率的后向算法：
输入：隐马尔科夫模型$\lambda$
输出：观测序列概率$P(O|\lambda )$
1）${\beta }_T(i)=1,i=1,2\dots \dots N$
2）对t=T-1,T-2……1
${\beta }_t(i)=\sum _{j=1}^N{\alpha }_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)$
(想清楚在每一个特定的状态时，可以对应所有的观测，只是他们的概率不同而已)
后向概率和前向概率思想是一样的，都是基于状态的路径，只不过后向算法中，当前是一个状态对应后续的N个状态（前向相反）一对多一直发散。
3）$P(O|\lambda )=\sum _{j=1}^N{\pi }_i{b}_i(o_1){\beta }_1(j)$
步骤1）初始化后向概率，对钟总时刻的所有状态$q_i$规定${\beta }_T(i)=1$
步骤2）为了计算在时刻t状态为$q_i$的条件下时刻t+1之后的观测序列为$o_{t+1},o_{t+2}\dots o_T$的后向概率${\beta }_t(i)$,只需要考虑在时刻t+1所有可能的N个状态$q_j$的转移概率（即${\alpha }_{ij}$）,以及在此状态下的观测$o_{t+1}$的观测概率($b_j(o_{t+1})$),然后考虑状态$q_j$之后的观测序列的后向概率（${\beta }_{t+1}(j)$）

利用前向概率和后向概率的定义可以将观测序列概率$P(O|\lambda )$统一写成：
$P(O|\lambda )=\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)b_j(o_{t+1}){\beta }_{t+1}(j)$

当t=1 和 t=T-1 时，上式分别是前向概率和后向概率。

一些概率与期望值的计算

利用前向概率和后向概率，可以得到关于单个状态和两个状态概率的计算公式。
1）给定模型$\lambda$和观测O，在时刻t处于状态$q_i$的概率。记
${\gamma }_t(i)=P(i_t=q_i|O,\lambda )$

${\gamma }_t(i)=P(i_t=q_i|O,\lambda )=\frac{P(i_t=q_i,O|\lambda )}{P(O|\lambda )}$

由前向与后向概率的定义可知：
${\alpha }_t(i){\beta }_t(i)=P(i_t=q_i,O|\lambda )$

$P(O|\lambda )=\sum _{i=1}^N{\alpha }_t(i){\beta }_t(i)$(由联合概率求边缘概率公式)
于是：
${\gamma }_t(i)=\frac{P(i_t=q_i,O|\lambda )}{P(O|\lambda )}=\frac{{\alpha }_t(i){\beta }_t(i)}{P(O|\lambda )}=\frac{{\alpha }_t(i){\beta }_t(i)}{\sum _{j=1}^N{\alpha }_t(j){\beta }_t(j)}$

2）给定模型$\lambda$和观测O，在时刻t处于状态$q_i$且在时刻t+1处于状态$q_j$的概率 ,记
${\zeta }_{ij}=P(i_t=q_i,i_{t+1}=q_j|O,\lambda )$

${\zeta }_{ij}=\frac{P(i_t=q_i,i_{t+1}=q_j,O|\lambda )}{P(O|\lambda )}=\frac{P(i_t=q_i,i_{t+1}=q_j,O|\lambda )}{\sum _{i=1}^N\sum _{j=1}^{N}P(i_t=q_i,i_{t+1}=q_j,O|\lambda )}$

而
$P(i_t=q_i,i_{t+1}=q_j,O|\lambda )={\alpha }_t(i)a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)$

所以
${\zeta }_{ij}=\frac{{\alpha }_t(i)a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)}{\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)}$