条件随机场(CRF) 简介

简介

CRF上面是马尔科夫随机场（马尔科夫网络），而条件随机场是在给定的随机变量X（具体，对应观测序列 O ）条件下，随机变量 Y（具体，对应隐状态序列 I 的马尔科夫随机场。

具体建模公式如下:

对于CRF，可以为他定义两款特征函数：转移特征&状态特征。 我们将建模总公式展开：

Z(O)是用来归一化的，为什么？想想LR以及softmax为何有归一化呢，一样的嘛，形成概率值。
M个特征, T为长度.

Learning Problem

在这个问题中，问题具体就是用极大似然估计来求 CRF 模型的参数

Bi-LSTM Conditional Random Field

预测算法

Decoding 问题可被我们描述为:

使用Viterbi算法就好,本质就是动态规划，不细说。

Reference:
1.如何用简单易懂的例子解释条件随机场（CRF）模型？它和HMM有什么区别？
2.Bi-LSTM Conditional Random Field Discussion
3.Log-Linear Models, MEMMs, and CRFs
4.维特比算法