CRF 相比于 maximum entropy Markov models一个很重要的特点就是避免了标注偏置问题。
什么是标注偏置问题?
在Conditional Random fields: Probabilistic Models for Segmenting and Labeling Sequence Data (http://www.cis.upenn.edu/~pereira/papers/crf.pdf)这篇论文中,有解释。
[img]http://dl.iteye.com/upload/attachment/433002/24f91c85-4590-3ae2-95a8-990deb776b40.jpg[/img]
我对这个问题的理解是:
有三个状态a,b,c,
在训练语料中,a转移b的概率,大于a转移到c的概率,造成在进行测试时,始终只能出现a到b状态。
[img]http://dl.iteye.com/upload/attachment/433026/ab3e291f-64bc-3612-8b9a-7160ba714f03.jpg[/img]
CRF 能够采用丰富的特征,其无向图的结构,能够避免这个问题。
什么是标注偏置问题?
在Conditional Random fields: Probabilistic Models for Segmenting and Labeling Sequence Data (http://www.cis.upenn.edu/~pereira/papers/crf.pdf)这篇论文中,有解释。
[img]http://dl.iteye.com/upload/attachment/433002/24f91c85-4590-3ae2-95a8-990deb776b40.jpg[/img]
我对这个问题的理解是:
有三个状态a,b,c,
在训练语料中,a转移b的概率,大于a转移到c的概率,造成在进行测试时,始终只能出现a到b状态。
[img]http://dl.iteye.com/upload/attachment/433026/ab3e291f-64bc-3612-8b9a-7160ba714f03.jpg[/img]
CRF 能够采用丰富的特征,其无向图的结构,能够避免这个问题。