条件随机场(Conditinal random field, CRF)是给定一组随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔科夫随机场。即输出变量之间存在成对马尔科夫性,局部马尔可夫性和全局马尔可夫性。成对马尔可夫性:假设u,v为无向图G中任意两个没有边连接的节点,那么在给定其它剩余节点的条件下随机变量Yu,Yv是条件独立的。局部马尔可夫性:假设v为无向图G中任意一个节点,W为与v有边连接的所有节点,O为除v,W外的所有节点,那么在给定随机变量组YW的条件下随机变量Yv与随机变量组YO是独立的。全局马尔可夫性:设节点集合A,B是在无向图G中被节点集合C分开的任意节点集合,那么给定在给定随机变量组YC的条件下随机变量组YA与YB是独立的。上述成对马尔科夫性,局部马尔可夫性和全局马尔可夫性是相互等价的。 设X,Y是随机变量,P(Y|X)是在给定X的条件下Y的条件概率分布。若随机变量Y构成一个由无向图G=(V,E)表示的马尔科夫随机场,即:
P(Yv|X,YW,YO)=P(Yv|X,YW)
对任意节点
v
成立,则称条件概率分布
P(Y|X)
为条件随机场。式中
W,O
分别表示为与
v
有边连接的所有节点,为除
v,W
外的所有节点,即满足局部马尔可夫性。在实际问题中,我们更关心的是如何求其联合概率分布。对概率无向图模型,我们希望将整体的联合概率写成若干子联合概率的乘积形式,即将联合概率进行因子分解,便于模型的学习与计算。一般来说,将概率无向图模型的联合概率分布表示为其最大团上的随机变量的函数的乘积形式。根据Hammersley-Clifford定理,概率无向图模型的联合概率分布
P(Y)
表示为如下形式:
P(Y)=1Z∏CΨC(YC)Z=∑Y∏CΨC(YC)
其中
C
是无向图的最大团,
YC
是
C
的节点对应的随机变量,
ΨC(YC)
是
C
上定义的严格正函数,称为势函数,通常定义为
ΨC(YC)=exp{−E(YC)}
。根据上式定义,通常也称该模型为对数线性模型。下面我们详细讨论该模型以及CRF在计算机视觉领域中的应用。
条件随机场(Conditinal random field, CRF)是给定一组随机变量条件下另一组输出随机变量的条件概率分布模型,其特点是假设输出随机变量构成马尔科夫随机场。即输出变量之间存在成对马尔科夫性,局部马尔可夫性和全局马尔可夫性。成对马尔可夫性:假设u,vu,v为无向图GG中任意两个没有边连接的节点,那么在给定其它剩余节点的条件下随机变量Yu,YvY_u,Y_v是条件独立的。局部马尔可