1.MEMM打破了HMM的观测独立性假设,更加合理化
2.MEMM是判别模型,HMM是生成模型
3.MEMM存在标注偏差问题,是由局部归一化造成的
4.通过把有向图变成无向图,可以解决局部归一化问题,这就是线性条件随机场
5.CRF间接打破MEMM的齐次马尔科夫性,解决标注偏差问题
这篇继条件随机场CRF(一)介绍MEMM模型(最大熵马尔科夫模型)和引出CRF模型(条件随机场),并介绍HMM、MEMM、CRF的区别。
HMM V.S MEMM
首先,我们回顾一下HMM模型:
该模型用1-2-3表示:
1个模型:参数λ=(π,A,B),π是初始状态分布,A是状态转移矩阵,B是发射矩阵
2个假设:齐次一阶