Chapter 10 Hidden Markov Model

Def 关于时序的概率模型

Q 为状态集 |Q| = N

V为观测集 |v| = M

I 为状态序列 |I| = T

O为观测序列 |O| = T

A 状态转移概率矩阵

B 观测概率矩阵

   

   

三个基本问题

   

   

   

概率计算

   

直接计算法—遍历计算

   

向前向后算法 （想到了分词算法）—一种动态规划算法

   

向前

对t = 1,…,T O(TN^2)

   

   

综合向前向后可得：

   

学习算法

有监督（即有对应的状态序列）

直接算即可

   

非监督 EM算法 Baum-Welch

   

M步，最大化Q函数

   

预测算法

近似与Viterbi

   

近似（贪心的，局部最优的）

只算当前最有可能出现的状态，不管上下文情况

计算简单

   

Viterbi 动态规划的

   

易有，递推式为

   

   

Viterbi Algorithm

   

Step one: initial

   

Step two :

   

Step three :end

   

Step four : get route