第11章--条件随机场（CRF）---（11）

1.概述

• 给入一组输入随机变量的条件下另一组输出随机变量的条件概率分布
• 特点：假设输出随机变量构成隐马尔可夫随机场
• 线性链条件随机场——应用与标注问题，学习方法是极大似然估计或正则化的极大似然估计
• 条件随机场可以应用于不同的测试问题

2.概率无向图模型

（1）相关定义

• 图：由结点及连接结点的边组成的集合
• 无向图：指边没有方向的图
• 概率图模型：指由图表示的概率分布
• 无向图表示的随机变量之间存在着：成对马尔可夫性，局部马尔可夫性和全局马尔可夫性
• 成对马尔可夫性：设$u$和$v$是无向图$G$中任意两个没有边连接的结点，结点$u$和$v$分别对应随机变量$Y_u$和$Y_v，$其他结点为$O$，对应的随机变量组是$Y_O$。给定随机变量组$Y_O$的条件下随机变量$Y_u$和$Y_v$是条件独立的，即$P(Y_u,Y_v|Y_O)=P(Y_u|Y_O)P(Y_v|Y_O)$
• 局部马尔可夫性:设$v\in V$是无向图$G$中任意一个结点，结点$W$是与$v$有边连接的所有节点，$O$是$v,W$以外的其他所有结点。在给定随机变量组$Y_W$的条件下随机变量$Y_v$与随机变量组$Y_O$是独立的，即$P(Y_v,Y_O|Y_W)=P(Y_V|Y_W)P(Y_O|Y_W)$，在$P(Y_O|Y_W)>0$时，等价地$P(Y_v|Y_W)=P(Y_v|Y_W,Y_O)$
• 全局马尔可夫性:设结点集合$A,B$是在无向图$G$中被结点集合$C$分开的任意结点集合，结点集合$A,B$和$C$所对应的随机变量组分别为$Y_A,Y_B$和$Y_C$。给定随机变量$Y_C$条件下随机变量$Y_A,Y_B$是条件独立的，即$P(Y_A,Y_B|Y_C)=P(Y_A|Y_C)P(Y_B|Y_C)$

（2）概率无向图模型

• 定义：设有联合概率分布$P(Y)$，由无向图$G=(V,E)$表示，在图$G$中，结点表示随机变量，边表示随机变量之间的依赖关系。如果联合概率分布$P(Y)$满足成对、局部或全局马尔可夫性，就称此联合概率分布为概率无向图模型，或马尔可夫随机场。
• 概率无向图模型是由无向图表示的联合概率分布
• 最大特点：易于因子分解，可以分解为无向图最大团上的正值函数的乘积的形式

（3）因子分解

• 团：无向图中任何两个结点均有边连接的结点子集称为团
• 最大团：一个无向图的团中不能再增加任何一个结点使其成为更大的团，称为最大团
• 概率无向图模型的因子分解：将联合分布表示为其最大团上的随机变量的函数的乘积
• Hammersley-Clifford定理：$P(Y)=\frac{1}{C}{\prod }_C{\Psi }_C(Y_C)Z={\sum }_Z{\prod }_C{\Psi }_C(Y_C)$，C为最大团，${\Psi }_C(Y_C)$表示严格正函数。

3.条件随机场的定义与形式

（1）条件随机场

• 定义：是给定输入随机变量$X$条件下，输出随机变量$Y$的条件概率分布模型。
• 最大特点：是假设输出变量之间的联合概率分布构成概率无向图模型，即马尔可夫随机场。
• 条件随机场是判别模型。

（2）线性链条件随机场

• 是定义在观测序列与标记序列上的条件随机场。
• 一般表示为给定观测序列条件下的标记序列的条件概率分布，由参数化的对数线性模型表示。
• 模型包含特征及相应的权值，特征是定义在线性链的边与结点上的。
• 线性链条件随机场的数学表达式是
  $$P(y|x)=\frac{1}{Z(x)}\exp \left(\sum _{i,k}{\lambda }_k{t}_k\left(y_{i-1},y_i,x,i\right)+\sum _{i,l}{\mu }_l{s}_l\left(y_i,x,i\right)\right)$$其中，$Z(x)={\sum }_y\exp \left({\sum }_{i,k}{\lambda }_k{t}_k\left(y_{i-1},y_i,x,i\right)+{\sum }_{i,l}{\mu }_l{s}_l\left(y_i,x,i\right)\right)$，$t_k$（转移特征）是定义在边上的特征函数，依赖当前和前一个位置，$s_l$（状态特征）是定义在结点的特征函数，依赖当前位置。
• 线性链条件随机场的概率计算通常利用前向-后向算法。
• 线性链条件随机场的一个重要应用是标注。维特比算法是给定观测序列求条件概率最大的标记序列的方法。

4.条件随机场的学习算法

• 通常是极大似然估计方法或正则化的极大似然估计，即在给定训练数据下，通过极大化训练数据的对数似然函数以估计模型参数。
• 具体的算法有改进的迭代尺度算法（IIS）、梯度下降法、拟牛顿法等。

（1）条件随机场模型学习的改进的迭代尺度算法——IIS算法

• 输入：特征函数$t_1,t_2,...,t_{K_1}，s_1,s_2,...,s_{K_2}$；经验分布$\tilde{P}(x,y);$
• 输出：参数估计值$\tilde{w}$；模型$P_{\tilde{w}}$
• 计算过程：
  1）对所有的$k$，取初值$w_k=0$
  2）对每一个$k$,
  \quad (a）计算,${\delta }_k，{\delta }_{K_1+l}$:
  \quad\quad 当 $k=1,2,...,K_1$时，${\delta }_k$是${\sum }_{x,y}\tilde{P}(x)P(y|x){\sum }_{i=1}^{n+1}{t}_k(y_{i-1},y_i,x,i)\exp ({\delta }_{k}T(x,y))=E_{\tilde{P}}[t_k]$的解
  \quad\quad 当$k=K_1+l，l=1,2,...,K_2$时，${\delta }_{K_1+l}$是${\sum }_{x,y}\tilde{P}(x)P(y|x){\sum }_{i=1}^{n+1}{t}_k(y_i,x,i)\exp ({\delta }_{K_1+l}T(x,y))=E_{\tilde{P}}[s_l]$的解
  \quad (b）更新 $w_k:=w_k+{\delta }_k$
  3）如果不是所有的$w_k$都收敛，重复步骤2）

（2）条件随机场模型学习的BFGS算法——拟牛顿法

• 输入：特征函数$f_1,f_2,...,f_n$；经验分布$\tilde{P}(X,Y);$
• 输出：最优参数值$\hat{w}$；最优模型$P_{\hat{w}}(y|x)$
• 计算过程：
  1）选定初始点$w^{(0)}$，取$B_0$为正定对称矩阵，置$k=0$
  2）计算$g_k=g(w^{(k)})$，若$g_k=0$，停止计算，否则转3）
  3）由$B_k{p}_k=-g_k$求出$p_k$
  4）一维搜索：求${\lambda }_k$使得$f(w^{(k)}+{\lambda }_k{p}_k)={\min }_{\lambda \ge 0}f(w^{(k)}+\lambda p_k)$
  5）置$w^{(k+1)}=w^{(k)}+{\lambda }_k{p}_k$
  6）计算$g_{k+1}=g(w^{(k+1)})$，若$g_{k+1}=0$，停止计算，否则计算$B_{k+1}=B_k+\frac{y_k{y}_k^T}{y_k^T{\delta }_k}-\frac{B_k{\delta }_k{\delta }_k^T{B}_k}{{\delta }_k^T{B}_k{\delta }_k}$
  7）置$k=k+1$，转3）

5.条件随机场的预测算法——维特比算法

• 输入：模型特征向量$F(y,x)$和权值向量$w$，观测序列$x=(x_1,x_2,...,x_n)$
• 输出：最优路径$y^{\ast }=(y_1^{\ast },y_2^{\ast },...,y_n^{\ast })$
• 计算过程：
  1）初始化：${\delta }_1(j)=w\cdot F_1(y_0=start,y_1=j,x),j=1,2,...,m$
  2）递推：对$i=1,2,...,n$计算 δ i ( l ) = max ⁡ 1 ≤ j ≤ m { δ i − 1 ( j ) + w ⋅ F i ( y i − 1 = j , y i = l , x ) , l = 1 , 2 , . . . , m } \delta_i(l)=\max_{1\leq j\leq m}\lbrace \delta_{i-1}(j)+w\cdot F_i(y_{i-1}=j,y_i=l,x),\quad l=1,2,...,m \rbrace δi​(l)=1≤j≤mmax​{δi−1​(j)+w⋅Fi​(yi−1​=j,yi​=l,x),l=1,2,...,m} Ψ i ( l ) = arg ⁡ max ⁡ 1 ≤ j ≤ m { δ i − 1 ( j ) + w ⋅ F i ( y i − 1 = j , y i = l , x ) , l = 1 , 2 , . . . , m } \Psi_i(l)=\arg\max_{1\leq j\leq m}\lbrace \delta_{i-1}(j)+w\cdot F_i(y_{i-1}=j,y_i=l,x),\quad l=1,2,...,m \rbrace Ψi​(l)=arg1≤j≤mmax​{δi−1​(j)+w⋅Fi​(yi−1​=j,yi​=l,x),l=1,2,...,m}
  3）终止：${\max }_y(w\cdot F(y,x))={\max }_{1\le j\le m}{\delta }_n(j),y_n^{\ast }=\arg {\max }_{1\le j\le m}{\delta }_n(j)$
  4）返回路径：$y_i\ast ={\Psi }_{i+1}(y_{i+1}^{\ast }),i=n-1,n-2,...,1$，求得最优路径$y^{\ast }=(y_1^{\ast },y_2^{\ast },...,y_n^{\ast })$