条件随机场(CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔科夫随机场。
主要讲述线性链条件随机场,这时,问题变成了由输入序列对输出序列预测的判别模型,形式为对数线性模型,其学习方法通常是极大似然估计或正则化的极大似然估计。
概率无向图模型
模型
概率无向图模型,又称为马尔科夫随机场,是一个可以由无向图表示的联合概率分布。
模型定义
图由结点V和连接边E组成的集合G=(V,E).无向图是指边没有方向的图.
概率图模型是由图表示的概率分布.
成对马尔可夫性:设u和v是无向图G中任意两个没有边连接的结点,分别对应随机变量 xu 和 xv 。其他所有结点记为O,对应随机变量组 xO 。成对马尔可夫性是指给定xOxO的条件下,随机变量 xu 和 xv 是条件独立的,即
[
P(xu,xv|xO)=P(xu|xO)P(xv|xO)
]
局部马尔可夫性:设v∈V v∈V是无向图G中任意一个结点,W是与v由边连接的所有结点,O是v,W以外的所有结点,v表示随机变量