隐马尔科夫模型

1 基本模型

模型介绍

$Q:$所有状态集合，$V$所有观测集合
$Q=\{q_1,q_2,...,q_N\},V=\{v_1,v_2,...,v_M\}$
$N$表示所有的状态个数，$M$表示所有的观测个数

$I:$长度为$T$的状态序列，$O$对应的观测序列
$I=(i_1,i_2,...,i_T),O=(o_1,o_2,...,o_T)$

参数介绍

隐马尔科夫模型由初始状态概率向量$\pi$，状态转移概率矩阵$A$,观测概率矩阵$B$决定。用$\lambda$表示隐马尔科夫模型，有$\lambda=(A,B,\pi)$.
$A$表示状态转移概率矩阵
$A=[a_{ij}]_{N\times N}$
其中$a_{ij}=P(i_{t+1}=q_j|i_t=q_i)$，表示在时刻$t$，状态$q_i$，下一时刻$t+1$的时候转移到$q_j$的概率。

$B$表示观测概率矩阵
$B=[b_{ij}]_{N\times M}$
其中$b_{ij}=P(o_t=v_j|i_t=q_i)$，表示在时刻$t$的时候，处于状态$q_i$，观测到$v_j$的概率。

$\pi$表示初始状态概率
$\pi=[\pi_i]，i=1,2,...,N$表示时刻$t=1$时各个状态概率分布。

基本问题

• 概率计算。给定模型$\lambda=(A,B,\pi)$，计算任一观测序列$O=(o_1,o_2,...,o_T)$的概率$p(O|\lambda)$
• 模型学习。给出观测序列$O=(o_1,o_2,...,o_T)$，计算模型$\lambda=(A,B,\pi)$使得对于任意一个模型$\lambda'$有$p(O|\lambda') \leq p(O|\lambda)$
• 模型预测。给定模型$\lambda=(A,B,\pi)$和观测序列$O=(o_1,o_2,...,o_T)$，计算状态序列$I=(i_1,i_2,...,i_T)$，使得对于任一状态序列$I'$，有$p(I'|\lambda,O) \leq p(I|\lambda,O)$

2 概率计算

给定模型$\lambda=(A,B,\pi)$，计算给定观测序列$O=(o_1,o_2,...,o_T)$的概率$p(O|\lambda)$。

直接算法

从隐马尔科夫模型构建中可以看到，观测序列只跟对应的状态序列相关。因此可以利用全概率公式就算出每一种状态的概率和该状态下产生目标观测的概率即可，即
$p(O|\lambda)=\sum_{I}p(O|I)p(I|\lambda) \tag{1}$

直接算法，由于状态数量太多，计算复杂度太高，一般不采用。

前向算法

前向算法，采用动态规划的思路，空间换时间。

---

定义—前向概率 表示时刻$t$及以前的观测序列为$o_1,o_2,...,o_t$，且此时状态为$q_i$的概率，记作
$\alpha_t(i)=p(o_1,o_2,...,o_t,i_t=q_i|\lambda) \tag{2}$

---

前向算法的计算步骤为

---

• 初始化，令$\alpha_1(i)=\pi_ib_{i,o_1},i=1,2,...,N$
• 状态转移，$\alpha_{t+1}(i)=[\sum_{j=1}^N\alpha_t(j)a_{j,i}]b_{i,o_{t+1}}$
• 汇总，$p(O|\lambda)=\sum_{i=1}^N\alpha_T(i)$

---

后向算法

后向算法跟前向算法类似，采用动态规划的思路，只不过计算顺序改为从后往前了。

---

定义—后向概率 表示时刻$t$以后的观测序列为$o_{t+1},o_{t+2},...,o_T$，且时刻$t$时状态为$q_i$的概率，记作
$\beta_t(i)=p(o_{t+1},o_{t+2},...,o_T,i_t=q_i|\lambda) \tag{3}$

---

后向算法的计算步骤为

---

• 初始化，令$\beta_T(i)=1,i=1,2,...,N$
• 状态转移，$\beta_{t}(i)=\sum_{j=1}^Na_{i,j}b_{j,o_{t+1}}\beta_{t+1}(j)$
• 汇总，$p(O|\lambda)=\sum_{i=1}^N\pi_i b_{i,o_1}\beta_1(i)$

---

3 模型学习

给出观测序列$O=(o_1,o_2,...,o_T)$，计算模型$\lambda=(A,B,\pi)$

监督学习

如果同时知道了观测序列$O_1,O_2,...$和对应的状态序列$I_1,I_2,...$,可以采用此种方法。

Baum-Welch算法

如果只知道观测序列$O_1,O_2,...$，并没有对应的状态序列$I_1,I_2,...$的信息,可以采用此种方法。
这里由于状态属于未知的隐含变量，因此可以采用EM算法进行求解。算法流程如下，

---

Baum-Welch算法

---

4 模型预测

给定模型$\lambda=(A,B,\pi)$和观测序列$O=(o_1,o_2,...,o_T)$，计算状态序列$I=(i_1,i_2,...,i_T)$

近似算法

每一时刻把最有可能的状态确定为当前状态，依次计算。

维特比算法

维特比算法利用动态规划算法进行求解。求解思路跟概率计算问题的前向算法极其类似，都需要保存每一个时刻，每一个状态的概率，只不过前向算法里是对概率进行求和，而这里是挑选最大概率，作为”路径”。