维特比算法的简单实现

• 隐马尔科夫模型

1.隐马尔可夫模型的定义

参考：统计学习方法 李航著

隐马尔科夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列(state sequence)；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列(observation sequence)。序列的每一个位置又可以看作是一个时刻。

隐马尔科夫模型由初始概率分布、状态转移概率分布以及观测概率分布确定。隐马尔可夫模型的形式定义如下：

设Q是所有可能的状态的集合，V是所有可能的观测的集合。

，其中，N是可能的状态数，M是可能的观测数。

I是长度为T的状态序列，O是对应的观测序列。

A是状态转移概率矩阵：

其中，是在时刻t处于状态的条件下在时刻t+1转移到状态的概率。

B是观测概率矩阵：

其中，是在时刻t处于状态的条件下生成观测的概率。

π是初始状态概率向量：

其中，是时刻t=1处于状态的概率。

 

隐马尔科夫模型由初始状态概率向量π、状态转移概率矩阵A和观测概率矩阵B决定。π和A决定状态序列，B决定观测序列。因此，隐马尔可夫模型可以用三元符号表示，即，A,B,π称为隐马尔科夫模型的三要素。

状态转移概率矩阵A与初始状态概率向量π确定了隐藏的马尔可夫链，生成不可观测的状态序列。观测概率矩阵B确定了如何从状态生成预测，与状态序列综合确定了如何产生观测序列。

 

从定义可知，隐马尔科夫模型作了两个基本假设：

（1）齐次马尔可夫性假设，即假设隐藏的马尔可夫链在任意时刻t的状态只依赖于其前一时刻的状态，与其他时刻的状态与观测无关，也与时刻t无关。