隐马尔可夫模型(Hidden Markov Model,HMM)是统计模型,它用来描述一个含有隐含未知参数的马尔可夫过程。其难点是从可观察的参数中确定该过程的隐含参数。
隐马尔可夫模型注意包含以下参数:可见状态链,即观测序列,用
表示。
隐含状态链,隐含状态之间存在转换概率(transition probability),一般用状态转移矩阵A表示。
隐含状态和可见状态之间有一个概率叫做输出概率(emission probability),一般用输出观测矩阵B表示。
初始状态,描述初始各隐含状态的概率,用
表示
隐马尔可夫模型各参数基本含义和关系
用一个例子来表述隐马尔可夫模型各参数的关系:假设三个盒子
按照如下方式进行取球:(1)开始,从三个盒子取球概率分别为0.2,0.4,0.4
(2)从第二次取球开始,设定,若上次从盒子1取球,则下次从三个盒子取球概率为0.5,0.2,0.3;若从盒子2取球,下次从三个盒子取球概率为0.3,0.5,0.2;若从盒子3,下次概率依次为0.2,0.3, 0.5,
重复三次后,得到球观测序列为{红,白,红}。
根据HMM定义,得到,观察集合:{红,白}
状态集合:{盒子1,盒子2,盒子3}
初始状态 [0.2,0.4,0.4]
状态转移概率矩阵
观测概率矩阵
需要注意观测序列和观测集合是两码事。
HMM求解概率—前向算法
首先说明HMM求观测序列概率的前向后向算法。以前向算法为例。
(1) 计算时刻1的观测为