隐马尔可夫模型(HMM)之概率计算

隐马尔可夫模型(HMM)之概率计算

1. 前言

本文主要对隐马尔可夫(Hidden Markov model,HMM)模型的三个基本问题做一个整理.其中所用符号与参考资料《统计学习方法》-李航保持一致，是对该章的学习笔记以便复习查看。

本文主要是隐马尔可夫模型的第一个概率计算的问题整理。

其他两个问题可参考

隐马尔可夫模型(HMM)之学习问题

隐马尔可夫模型(HMM)之预测问题

2. 符号说明

设所有可能的状态集合为 Q = { q 1 , q 2 , ⋯   , q N } Q=\{q_1,q_2,\cdots ,q_N\} Q={ q1​,q2​,⋯,qN​},观测结果集合为 V = { v 1 , v 2 , ⋯   , v M } V=\{v_1,v_2,\cdots ,v_M\} V={ v1​,v2​,⋯,vM​}.

设总共有$T$个时刻.

$T$个时刻所对应的状态序列为$I=(i_1,i_2,\cdots ,i_T)$,所对应的观测序列为$O=(o_1,o_2,\cdots ,o_T)$.

设状态转移概率矩阵为$A=[a_{ij}{]}_{N\times N}$.

表示在某个时刻$t$的状态为$q_i$,要转移到$t+1$时刻的状态$q_j$的概率是$a_{ij}$.也就是$a_{ij}=p(i_{t+1}=q_j|i_t=q_i)$.(这里$t$是任意$1\le t<T$的,也就说整个状态转移矩阵在整个时序上传递是共享的).

设观测概率矩阵为$B=[b_j(k){]}_{N\times M}$.

表示在某个时刻$t$的状态为$q_j$,在状态$q_j$的观测结果为$v_k$的概率为$b_j(k)$.也就是$b_j(k)=p(o_t=v_k|i_t=q_j)$.同样这个$B$也是共享的.

设初始状态转移概率向量为$\pi =({\pi }_i)$.它是$N\times 1$分别对应着时刻$t=1$的$N$个状态.

上述符号可以结合下图一一对应,方便理解

从图中的箭头的描述来看,其实包含了HMM的两个基本假设.(这里就通俗地讲)

• 每一个时刻$t$的状态$i_t$只依赖于前一个状态$i_{t-1}$.
• 每一个观测结果$o_t$只依赖于当前的隐含状态$i_t$.

$\pi ,A,B$都是模型的参数,就用$\lambda =(\pi ,A,B)$来统一代替方便表示.

3.三个基本问题

• 概率计算.给定模型参数$\lambda$和观测结果 O = ( o 1 , o 2