自然语言处理从小白到大白系列(4)多角度理解条件随机场


  众所周知,条件随机场在NLP中做NER和词性标注等任务是一把好手,但是条件随机场一直是很多同学心中谜一样的存在:贝叶斯网络,隐马模型,马尔科夫网络,最大熵隐马尔可夫模型,这些概率图就是都是写什么样的关系?之前写了一篇 隐马模型的文章和一篇 主题模型的文章,感兴趣的同学可以看看。是的,你会被标题吸引住的。废话不多说啦,开始。
  本文则着重是从逻辑回归讲清楚条件随机场这个东西。因此开始本文最好是已经比较熟悉LR了,如果不熟悉这里有传送门: 深入理解逻辑回归。

1. 线性链CRF

  一般我们讨论的也是线性链的CRF,如下图:
在这里插入图片描述
  这个图的意思是y仍然还是仅和前后有关。这和HMM有点类似,但是我们发现, y y y还和整个大 X X X输入有关,而HMM是仅仅和当前的观测值有关。

  现在想想,如果有这样一个图,怎么样才能合适的建模???
我们的目标是P(y|x),也是一个后验概率,最终是想最大化这个后验概率,和LR是一致的。
我们看看CRF模型的形式:
在这里插入图片描述
  怎么样,蒙了吧,脑瓜子嗡嗡的吧?这里我们来初步介绍一下, t k ( ) , s l ( ) t_k(),s_l() tk(),sl()是两个特征函数,分别对应于转移特征和状态特征。通俗地说,我们看到图1中的 Y i Y_i Yi不是和前一个 Y i − 1 Y_{i-1} Yi1有关吗?这个特征就用 t k ( ) t_k() tk()描述,而每个 Y i Y_i Yi本身的特征,就用 s l

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值