条件随机场原理（CRF）

CRF算法背景

条件随机场（Conditional Random Fiedl）是指给定一组输入的随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。条件随机场打破了隐马尔可夫模型的俩个假设（观测独立性假设和齐次马尔可夫性假设），使输入向量和输出向量之间的关系更加明显，从而使其在文本处理等问题上的表现更加优越。

条件随机场相关的知识基础

概率无向图模型

概率无向图模型的定义

概率无向图模型又称马尔可夫随机场，它是一个可以由无向图表示的联合概率分布。

设无向图$G=(V,E)$表示概率分布$P(Y)$，其中结$v\in V$表示一个随机变量$Y_v$，边$e\in E$表示随机变量之间的概率依赖关系。

若联合概率分布$P(Y)$满足成对马尔可夫性、局部马尔可夫性或者是全局马尔可夫性，就称此联合概率分布为概率无向图（马尔可夫随机场）。

成对马尔可夫性

在无向图中任意给定的俩个没有边连接的点$u(Y_u)$和$v(Y_v)$，并记其他所有节点为$O(Y_O)$。成对马尔可夫性是指在给定随机变量组的$Y_O$的条件下，$Y_u$和$Y_v$是相互独立的。即$$P(Y_v,Y_u|Y_O)=P(Y_v|Y_O)P(Y_u|Y_O)$$

局部马尔可夫性

设结点$v\in V$，与$v$相连的所有节点集合为$W$，以及除了$W(Y_W)$和$v(Y_v)$外的所有节点为$O(Y_O)$。局部马尔可夫性是指在给定随机变量组$Y_W$的前提下，随机变量$Y_v$和随机变量组$Y_O$相互独立，即
$$P(Y_v,Y_O|Y_W)=P(Y_v|Y_W)P(Y_O|Y_W)$$当$P(Y_O|Y_W)>0$时，可以有
$$P(Y_v|Y_W)=P(Y_v|Y_O,Y_W)$$

全局马尔可夫性

设集合$A、C$是被集合$B$分开的任意节点集合。全局马尔可夫性是指在给定随机变量组$Y_B$的前提下随机变量组$Y_A$和随机变量组$Y_C$相互独立，即
$$P(Y_A,Y_C|Y_B)=P(Y_A|Y_B)P(Y_C|Y_B)$$

概率无向图模型的因子分解

无向图中的团与最大团

无向图中任何俩个结点均有边连接的结点子集称为团。若该团再无法通过增加结点称为更大的团，则惩称之为最大团。（这里我们可以通过图来看下，团只要任意俩个点连通即可，但最大团是再增加便失去团的性质了）,下面通过例子展示一下团和最大团

从上图我们可以发现上图中的团有$((A,B),(A,C),(B,C),(C,D),(A,B,C))$。然后我们逐个分析分析团$(A,B)$，团$(A,B)$可以增加结点$C$，成为团$(A,B,C)$，所以它不是最大团。同理团$(A,C)$和团$(B,C)$也是团而不是最大团。对于团$(C,D)$，我们可以发现它无法增加结点变成更大的团，所以它也是最大团。最后分析团$(A,B,C)$，如果团加入结点$D$，则失去了团的性质，所以团$(A,B,C)$是最大团

因子分解

将概率无向图模型的联合概率分布表示为其最大团上的随机变量的函数的乘积形式的操作，称为概率无向图模型的因子分解。（简而言之，联合概率分布就是把所有的最大团都乘起来）

给定一个无向图$G$，$C$表示$G$的所有的最大团，$Y_{C_i}$表示某个最大团$C_i$的随机变量。所以概率无向图模型的联合概率分布$P(Y)$可以表示为$$P(Y)=\frac{1}{Z}\prod _C{\Psi }_c(Y_c)$$
其中$Z=\sum _Y\prod _C{\Psi }_C(Y_C)$表示为规范化因子（相当于做了个归一化的操作）
其中${\Psi }_C(Y_C)$称为势函数且严格正，通常我们定义 Ψ C ( Y C ) = exp ⁡ { − E ( Y C ) } \displaystyle \Psi_{C}(Y_{C}) = \exp\{-E(Y_{C})\} ΨC​(YC​)=exp{−E(YC​)}，$E(Y_C)$称为能量函数。

条件随机场的定义

条件随机场就是在给定随机变量$X$的前提下，随机变量Y的马尔可夫场。这里我们主要研究线性链上的马尔可夫场，也称之为线性链条件随机场(linear chain conditional random field)。即$P(Y|X)$的定义如下 P ( Y ∣ X ) = 1 Z exp ⁡ { ∑ i = 1 K F i ( x C i ) } P(Y|X) = \frac{1}{Z}\exp\{\sum_{i=1}^{K}F_{i}(x_{C_{i}})\} P(Y∣X)=Z1​exp{i=1∑K​Fi​(xCi​​)}所以有 P ( Y ) = 1 Z ∏ C exp ⁡ { − E ( Y C ) } = 1 Z exp ⁡ ∑ i = 1 K F i ( x C i ) = 1 Z exp ⁡ { ∑ t = 1 T F t ( y t − 1 , t t , x 1 : T ) } P(Y)=\frac{1}{Z}\prod_{C}\exp\{-E(Y_{C})\}=\frac{1}{Z}\exp{\sum_{i=1}^{K}}F_{i}(x_{C_{i}})=\frac{1}{Z}\exp\{\sum_{t=1}^{T}F_{t}(y_{t-1},t_{t},x_{1:T})\} P(Y)=Z1​C∏​exp{−E(YC​)}=Z1​expi=1∑K​Fi​(xCi​​)=Z1​exp{t=1∑T​Ft​(yt−1​,tt​,x1:T​)}其中$F_t(y_{t-1},t_t,x_{1:T})$是每个最大团的的函数。

我们可以通过下图解释一下为什么可以用这个公式进行表达。下图是线性链条件随机场，其中$X$是给定的随机变量，这里的随机变量$Y$构成了马尔可夫随机场，所以相邻的变量$y$之间构成一个最大团。注意这里讨论的是输出变量Y的随机场与X无关

接下来我们需要解决$F_t(y_{t-1},t_t,x_{1:T})$表示式的问题。它可以拆成三部分${\Delta }_{y_{t-1}}$、${\Delta }_{y_t}$和${\Delta }_{y_t,y_{t-1}}$，即$$F_t(y_{t-1},t_t,x_{1:T})={\Delta }_{y_{t-1}}+{\Delta }_{y_t}+{\Delta }_{y_t,y_{t-1}}$$然后我们通过观察可以发现${\Delta }_{y_{t-1}}$在$t$取$t-1$时也出现了，所以我们可以进行合并，即$$F_t(y_{t-1},t_t,x_{1:T})={\Delta }_{y_t}+{\Delta }_{y_t,y_{t-1}}$$将${\Delta }_{t-1}$扔给了F_{t-1}，这样可以带来计算上的化简。

接下来可以定义$\Delta$函数，对${\Delta }_{y_{t-1},y_t,x_{1:T}}$，可以有$${\Delta }_{y_{t-1},y_t,x_{1:T}}=\sum _{k=1}^K{\lambda }_k{f}_k(y_{t-1},y_t,x_{1:T})$$其中$f_k(y_{t-1},y_t,x_{1:T})$可以认为是一个特征函数，举例如下：
$$f_k(y_{t-1}=名词,y_t=形容词,x_{1:T})=0$$$$f_k(y_{t-1}=形容词,y_t=名词,x_{1:T})=1$$通过这种特殊制的方式来定义函数$f$，$K$指其个数，${\lambda }_k$指其权重

对${\Delta }_{y_t,x_{1:T}}$，有$${\Delta }_{y_t,x_{1:T}}=\sum _{l=1}^L{\eta }_l{g}_l(y_t,x_{1:T})$$
其中$g_l(y_t,x_{1:T})$为特征函数，$L$指其个数，${\eta }_l$指其权重

所以$P(Y|X)$可以简化 P ( Y ∣ X ) = 1 Z exp ⁡ { ∑ t = 1 T [ ∑ k = 1 K λ k f k ( y t − 1 , y t , x 1 : T ) + ∑ l = 1 L η l g l ( y t , x 1 : T ) ] } = 1 Z exp ⁡ { ∑ k = 1 K λ k ∑ t = 1 T f k ( y t − 1 , y t , x 1 : T ) + ∑ l = 1 L η l ∑ t = 1 T g l ( y t , x 1 : T ) } \begin{alignat*}{2}P(Y|X)&=\frac{1}{Z}\exp \{\sum^{T}_{t=1}\left[ \sum^{K}_{k=1}\lambda_{k}f_{k}(y_{t-1},y_{t},x_{1:T})+\sum_{l=1}^{L}\eta_{l}g_{l}(y_{t},x_{1:T})\right] \} \\ &=\frac{1}{Z}\exp \{\sum_{k=1}^{K}\lambda_{k}\sum_{t=1}^{T}f_{k}(y_{t-1},y_{t},x_{1:T})+\sum_{l=1}^{L}\eta_{l}\sum_{t=1}^{T}g_{l}(y_{t},x_{1:T})\}\end{alignat*} P(Y∣X)​=Z1​exp{t=1∑T​[k=1∑K​λk​fk​(yt−1​,yt​,x1:T​)+l=1∑L​ηl​gl​(yt​,x1:T​)]}=Z1​exp{k=1∑K​λk​t=1∑T​fk​(yt−1​,yt​,x1:T​)+l=1∑L​ηl​t=1∑T​gl​(yt​,x1:T​)}​

这里的累加可以化成矩阵的形式，令$$y=\left(\begin{array}{c}{y}_1\\ y_2\\ ⋮\\ y_T\end{array}\right),x=\left(\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_T\end{array}\right),\lambda =\left(\begin{array}{c}{\lambda }_1\\ {\lambda }_2\\ ⋮\\ {\lambda }_T\end{array}\right),\eta =\left(\begin{array}{c}{\eta }_1\\ {\eta }_2\\ ⋮\\ {\eta }_T\end{array}\right)$$$$f=\left(\begin{array}{c}{f}_1\\ f_2\\ ⋮\\ f_T\end{array}\right)=f(y_{t-1},y_t,x_{1:T}),g=\left(\begin{array}{c}{g}_1\\ g_2\\ ⋮\\ g_T\end{array}\right)=g(y_t,x_{1:T})$$则有$$\begin{array}{rl}\sum _{k=1}^K{\lambda }_k\sum _{t=1}^T{f}_k(y_{t-1},y_t,x_{1:T})+\sum _{l=1}^L{\eta }_l\sum _{t=1}^T{g}_l(y_t,x_{1:T})& ={\lambda }^T\sum _{t=1}^{T}f+{\eta }^T\sum _{t=1}^{T}g\end{array}$$
这里我们还可以在简化一点，令$$\theta =\left(\begin{array}{c}\lambda \\ \eta \end{array}\right),H=\left(\begin{array}{c}{\sum }_{t=1}^{T}f\\ {\sum }_{t=1}^{T}g\end{array}\right)$$
即$${\lambda }^T\sum _{t=1}^{T}f+{\eta }^T\sum _{t=1}^{T}g={\theta }^{T}H$$

最后，我们可以得到 P ( Y = y ∣ X = x ) = 1 z ( x , θ ) exp ⁡ { θ T H ( y t , y t − 1 , x 1 : T ) } = 1 z ( x , θ ) exp ⁡ { < θ , H > } P(Y=y|X=x) = \frac{1}{z(x,\theta)}\exp\{\theta^{T}H(y_{t},y_{t-1},x_{1:T})\}=\frac{1}{z(x,\theta)}\exp\{<\theta,H>\} P(Y=y∣X=x)=z(x,θ)1​exp{θTH(yt​,yt−1​,x1:T​)}=z(x,θ)1​exp{<θ,H>}

条件随机场主要解决的三个问题

条件随机场的概率计算问题

条件随机场的概率计算问题主要是讨论边缘概率计算的问题即求$P(y_t|X)$

即给定$P(Y=y|X=x)$，求$P(y_t=i|x)$$$P(y|x)=\frac{1}{z}\prod _{t=1}^T{\Psi }_t(y_{t-1},y_t,x)$$，故$$P(y_t=i|x)=\sum _{y_1,y_2,\cdots ,y_{t-1},y_{t+1},\cdots ,y_T}P(y|x)=\sum _{y_1:y_{t-1}}\sum _{y_{t+1}:y_T}\frac{1}{z}\prod _{t^{{}^{\prime }}=1}^T{\Psi }_{t^{{}^{\prime }}}(y_{t^{{}^{\prime }}-1},y_{t^{{}^{\prime }}},x)$$

上述等式的算法复杂度为$O(|s{|}^T\cdot T)$，复杂度为指数级，所以需要进行简化。

首先可以将连乘展开，可以发现对于$t$时刻前包括$t$时刻的势能函数只与$y_1:y_{t-1}$有关，$t$时刻后的势能函数只与$y_{t+1}:y_T$有关。
所以这里可以将其切分成俩部分$$P(y_t=i|x)=\frac{1}{z}{\delta }_{left},{\delta }_{right}$$
其中$${\delta }_{left}=\sum _{y_1:y_{t-1}}\Psi (y_0,y_1,x)\cdot \Psi (y_1,y_2,x)\cdots \Psi (y_{t-2},y_{t-1},x)\cdot \Psi (y_{t-1},y_t=i,x)$$$${\delta }_{right}=\sum _{y_{t+1}:y_T}\Psi (y_t=i,y_{t+1},x)\cdot \Psi (y_{t+2},y_{t+3},x)\cdots \Psi (y_{T-2},y_{T-1},x)\cdot \Psi (y_{T-1},y_T,x)$$

先对${\delta }_{left}$进行简化$${\delta }_{left}=\sum _{y_0}\Psi (y_0,y_1,x)\sum _{y_1}\Psi (y_1,y_2,x)\cdots \sum _{y_{t-2}}\Psi (y_{t-2},y_{t-1},x)\sum _{y_{t-1}}\Psi (y_{t-1},y_t=i,x)$$
这里可以令${\alpha }_t(i)={\delta }_{left}$，则有$${\alpha }_t(i)={\alpha }_{t-1}(j)\sum _j\Psi (y_{t-1}=j,y_t=i,x)$$

同理对于${\delta }_{right}$y有$${\delta }_{right}=\sum _{y_T}\Psi (y_{T-1},y_T,x)\sum _{y_{T-1}}\Psi (y_{T-2},y_{T-1},x)\cdots \sum _{y_{t+2}}\Psi (y_{t+1},y_{t+2},x)\sum _{y_{t+1}}\Psi (y_t=i,y_{t+1},x)$$

这里令${\beta }_t(i)={\delta }_{right}$，则有$${\beta }_t(i)=\sum _j\Psi (y_t=i,y_{t+1}=j,x){\beta }_{t+1}(j)$$

综上，有$$P(y=i|x)=\frac{1}{z}{\alpha }_t(i){\beta }_t(i)$$
其中$z(x)={\alpha }_T^T(x)ones(1,|s|)$

条件随机场的学习问题

条件随机场的学习问题就是如何根据现有的训练数学求解最优的模型参数，即$$\hat{\theta }=\mathrm{argmax}\prod _{i=1}^{N}P(y^i|x^i)$$其中$N$为训练的数据量，$\theta =(\lambda ,\eta )$
所以学习算法的目的是通过极大化似然函数，求得更优的参数。将概率密度函数代入有 λ ^ , η ^ = arg max ⁡ λ , η ∏ i = 1 N 1 z ( x , λ , η ) exp ⁡ { ∑ t = 1 T [ λ T f ( y t − 1 , y t , x ) + η T g ( y t , x ) ] } \hat{\lambda},\hat{\eta}=\argmax_{\lambda,\eta}\prod_{i=1}^{N}\frac{1}{z(x,\lambda,\eta)}\exp\{\sum_{t=1}^{T}\left[\lambda^{T}f(y_{t-1},y_{t},x)+\eta^{T}g(y_{t},x)\right]\} λ^,η^​=λ,ηargmax​i=1∏N​z(x,λ,η)1​exp{t=1∑T​[λTf(yt−1​,yt​,x)+ηTg(yt​,x)]} 由于是指数函数的累积，所以可以取对数简化$$\hat{\lambda },\hat{\eta }=\underset{\lambda ,\eta }{\mathrm{argmax}}\sum _{i=1}^N\left[-\log z(x^i,\lambda ,\eta )+\sum _{t=1}^T\left[{\lambda }^{T}f(y_{t-1},y_t,x)+{\eta }^{T}g(y_t,x)\right]\right]$$
这里令$L(\lambda ,\eta ,x^i)=\sum _{i=1}^N\left[-\log z(x^i,\lambda ,\eta )+\sum _{t=1}^T\left[{\lambda }^{T}f(y_{t-1},y_t,x)+{\eta }^{T}g(y_t,x)\right]\right]$，则有$$\hat{\lambda },\hat{\eta }=\underset{\lambda ,\eta }{\mathrm{argmax}}L(\lambda ,\eta ,x^i)$$由于是求函数最大值，所以要用梯度上升进行求解
$${\nabla }_{\lambda }L=\sum _{i=1}^N\left[-{\nabla }_{\lambda }\log z(x^i,\lambda ,\eta )+\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)\right]$$
这里有个知识点就是log-partition function的求导结果为充分统计量的数学期望，即
$$\begin{array}{rl}{\nabla }_{\lambda }\log z(x^i,\lambda ,\eta )& =E\left[\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)\right]\\ & =\sum _{y}P(y|x^i)\sum _{t=1}^{T}f(y_{t-1},y_t,x^i)\\ & =\sum _{t=1}^T\sum _{y}P(y|x^i)f(y_{t-1},y_t,x^i)\\ & =\sum _{t=1}^T\sum _{y_{t-1}}\sum _{y_t}\sum _{y_{t_1}:y_{t-2}}\sum _{y_{t+1}:y_T}P(y|x^i)f(y_{t-1},y_t,x^i)\\ & =\sum _{t=1}^T\sum _{y_{t-1}}\sum _{y_t}P(y_{t-1},y_t|x^i)f(y_{t-1},y_t,x^i)\end{array}$$这里$P(y_{t-1},y_t|x^i)$跟概率密度函数的计算是类似的，但是多了一个变量简单而言$$P(y_{t-1},y_t|x^i)=\frac{1}{z}{\alpha }_{t-2}\Psi (y_{t-1},y_t|x^i){\beta }_{t+1}$$

然后就可以求其更新后的$\lambda$，即
$${\lambda }^{t+1}={\lambda }^t+step\ast {\nabla }_{\lambda }L({\lambda }^t,{\eta }^t,x^i)$$

同理对于$\eta$，有$${\eta }^{t+1}={\eta }^t+step\ast {\nabla }_{\eta }L({\lambda }^t,{\eta }^t,x^i)$$
（这里充分统计量、边缘概率密度和$\eta$的导数后续再研究补上，但整体的思想比较明确了）

条件随机场的Decoding问题

条件随机场的解码问题与HMM中的解码问题类似，都是求条件概率最大的输出序列，即$$\begin{array}{rl}{y}^{\ast }& =\underset{y_1,y_2,\cdots ,y_T}{\mathrm{argmax}}P(y|x)\\ & =\underset{y_1,y_2,\cdots ,y_T}{\mathrm{argmax}}\frac{1}{z(x,\theta )}{\theta }^{T}H\\ & =\underset{y_1,y_2,\cdots ,y_T}{\mathrm{argmax}}{\theta }^{T}H\\ & =\underset{y_1,y_2,\cdots ,y_T}{\mathrm{argmax}}\sum _{t=1}^T{\theta }^T\left(\begin{array}{c}f\\ g\end{array}\right)\\ & =\underset{y_1,y_2,\cdots ,y_T}{\mathrm{argmax}}\sum _{t=1}^T{\theta }^{T}F(y_{t-1},y_t,x)\end{array}$$

接下来令${\mathrm{H}}_t(i)$为$t$时刻$y$取值$i$的最大概率，则有$${\mathrm{H}}_1(i)={\theta }^{T}F(y_0,y_1=i,x)$$则递推公式为 H t + 1 ( i ) = max ⁡ j = 1 , 2 , ⋯   , ∣ s ∣ { H t ( j ) + θ T F ( y t = j , y t + 1 = i , x ) } H_{t+1}(i)= \max_{j=1,2,\cdots,|s|}\{H_{t}(j)+\theta^{T}F(y_{t}=j,y_{t+1}=i,x)\} Ht+1​(i)=j=1,2,⋯,∣s∣max​{Ht​(j)+θTF(yt​=j,yt+1​=i,x)}

同时使用${\Theta }_{t+1}(i)$记录$t+1$时刻取$y=i$时$t$时刻最佳的$y_t$，即 Θ t + 1 ( i ) = arg max ⁡ j = 1 , 2 , ⋯   , ∣ s ∣ { H t ( j ) + θ T F ( y t = j , y t + 1 = i , x ) } \Theta_{t+1}(i)=\argmax_{j=1,2,\cdots,|s|}\{H_{t}(j)+\theta^{T}F(y_{t}=j,y_{t+1}=i,x)\} Θt+1​(i)=j=1,2,⋯,∣s∣argmax​{Ht​(j)+θTF(yt​=j,yt+1​=i,x)}

所以我们可以用回溯方法求解最佳路径，令$y_T^{\ast }=\underset{i=1,2,\cdots ,|s|}{\mathrm{argmax}}{\mathrm{H}}_T(i)$则有$$y_t^{\ast }={\Theta }_{t+1}(y_{t+1}^{\ast })t=T-1,T-2,\cdots ,1$$

所以最优的路径$y^{\ast }=(y_1^{\ast },y_2^{\ast },\cdots ,y_n^{\ast })$

以上内容属于个人学习总结，如有错误请指正