计算机语言学笔记（五）隐马尔科夫模型

5 隐马尔可夫模型

5.1 模型

一阶马尔科夫模型可以描述为一个二元组( S, A ) ，S是状态的集合，而A是所有状态转移概率组成的一个n行n列的矩阵，其中每一个元素aij为从状态i转移到状态j的概率 。同有限状态自动机类似，状态转移关系也可以用状态转换图来表示。
对于马尔科夫模型，给定了观察序列，同时也就确定了状态转换序列。例如有关天气状况的观察序列。(晴晴晴阴阴晴云晴)则状态转换序列为(3, 3, 3, 1, 1, 3, 2, 3）。
如果把晴天称为状态3的输出，阴天称为状态1的输出，多云称为状态2的输出。根据观察到的输出序列就可以决定模型中的状态转换序列。(每个状态只有唯一的输出值)。
马尔科夫性质：随机过程中某一时刻的状态st，只与它前一时刻的状态st−1有关。

隐马尔科夫模型的状态被隐藏起来，无法直接观测，但是对应的存在一个可观测值ot，ot仅与状态值St有关，St外化表现为ot的概率称为输出概率，隐状态St之间转换成为转移概率。
转移概率矩阵描述了隐状态之间的转换概率，输出概率矩阵描述了不同隐状态输出可观测值的概率。
因此，HMM模型存在一个随时间不断改变的隐藏状态持续影响着系统的外在表现。

在坛子与小球问题中，如果给定一个观察序列(不同颜色的小球序列)，不能直接确定状态转换序列(坛子的序列)，因为状态转移过程被隐藏起来了，而坛子是可观测值，所以这类随机过程被称为隐马尔科夫过程。
隐马尔可夫模型λ 可以表示为一个五元组( S, V, A, B, π )，S是一组状态的集合。V是一组输出符号组成的集合。A是状态转移矩阵，N行N列。B是输出符号的概率分布。π是初始状态概率分布π=ÿ