机器学习之隐马尔可夫模型(HMM)、最大熵马尔可夫模型(MEMM)、条件随机场(CRF)

导读

本次介绍的是三种机器学习模型，分别是隐马尔可夫HMM模型、最大熵马尔可夫模型以及条件随机场CRF模型，他们三个是一脉相承的，下面分别介绍

1.隐马尔科夫模型

隐马尔可夫模型（Hidden Markov Model）应用范围较广，主要应用在NLP序列标注问题上。例如分词、词性标注POS、命名实体识别NER等
它是经典的生成模型，学习的是联合概率矩阵$p(x,y)$，它是一个有向图模型，结构如下：

模型表示

五元组：（S,V,$\pi$,A,B），其中
S：隐藏状态集合，S = {$s_1$,$s_2$,$\dots$,$s_N$}，即上图中X一共有几类。
V：观测状态集合，V = {${\nu }_1$,${\nu }_2$,$\dots$,${\nu }_N$}，即上图中X一共有几类。
$\pi$：初始状态的概率，$\pi$={${\pi }_1$,${\pi }_2$,$\dots$,${\pi }_N$}; ${\pi }_i$ = P($X_1$ = $s_i$)
A：状态转移概率矩阵，A = {$a_{ij}$}; $a_{ij}$ = P($X_{t+1}$ = $s_j$|$X_t$ = $s_i$)，即由$s_i$转移到$s_j$的概率}
B：符号输出概率，B = {$b_{jk}$}；j $\in$ S，k $\in$ V

序列
状态序列：$X=X_1,X_2,\dots ,X_T$ \qquad $X_t\in S$
输出序列：$O=O_1,O_2,\dots ,O_T$ \qquad $O_t\in V$

一个随机过程，有一个观察序列$O=O_1,O_2,...,O_T$，该过程隐含着一个状态序列$X=X_1,X_2,...,X_T$

1.马尔科夫假设：

• 假设1：有限历史假设：$P(X_i|X_1,X_2,\dots ,X_T)=P(X_i|X_{i-1})$，即当前的隐含状态只与前一个有关，再之前的状态不对当前隐含状态起作用。
• 假设2：时间不动性假设

2.输出独立性假设

• 输出仅与当前状态有关：$P(O_1,O_2,\dots ,O_T|X_1,X_2,\dots ,X_T)={\Pi }_{t}P(O_t|X_t)$

HMM的三个基本问题

给定一个观察序列$O_1,O_2,\dots ,O_T$和模型$\mu =(A,B,\pi )$

问题1：

如何有效计算观察序列$O_1,O_2,\dots ,O_T$的概率$P(O|\mu )$？$\Rightarrow$评价问题

问题2：

如何寻找最佳的状态序列$X_1,X_2,\dots ,X_T$？$\Rightarrow$解码问题

问题3：

如何训练模型参数$\mu =(A,B,\pi )$，使得$P(O|\mu )$概率最大？$\Rightarrow$模型参数学习、训练问题

评价问题

$$P(O|\mu )=\sum _{x}P(O,X|\mu )=\sum _{x}P(O|X,\mu )P(X|\mu )$$
其中第一个等号为把X放到概率中，求和还是等于1，是不变的。然后利用概率公式拆开，即第二个等号。
第一项为：
$$P(O|X,\mu )=P(O_1,O_2,\dots ,O_T|X_1,X_2,\dots ,X_T,\mu )=\prod _{i=1}^{N}P(o_i|x_i)$$
即观测概率，是已知的
第二项为：
$$P(X|\mu )=P(X_1,X_2,\dots ,X_T|\mu )=P(x_1)\cdot \prod _{i=2}^{N}P(x_i|x_{i-1})$$
即转移概率，也是已知的

解码问题

即如何寻找最佳的状态序列$X_1,X_2,\dots ,X_T$
$$X=argmaxP(X|O,\mu )=argmaxP(O,X|\mu )$$
解决该问题的方法是Viterbi算法，核心思想是动态规划

训练问题（有标注数据）

Baum-Welch算法

总结

HMM是生成式有向图模型，优势是训练和推断计算量较小，劣势是独立性假设严格，生成式模型，需要对联合概率建模

2.最大熵隐马尔科夫模型

最大熵隐马尔科夫模型（Maximum Entropy Markov Models，简称MEMM）是一个判别模型，形状见下图：

该模型求条件概率，公式如下：
$$P(y_{1:n}|x_{1:n})=\prod _{i=1}^{n}P(y_i|y_{i-1},x_{1:n})=\prod _{i=1}^n\frac{exp(w^{T}f(y_i,y_{i-1},x_{1:n}))}{Z(y_{i-1},x_{1:n})}$$
与隐马尔可夫模型不同的是，现在是给定X的分布，算Y的分布

存在的问题

MEMM存在的最大问题即标签偏置(Labeling Bias)问题，原因是局部归一化导致。

3.条件随机场

传统的序列标注问题最有名的还是条件随机场（Conditional Random Fields，简称CRF）

性质

为判别模型，是一个无向图模型，使用了全局归一化，避免了MEMM的标签偏置问题
公式为：
$$P(\bar{y}|\bar{x};\omega )=\frac{exp({\sum }_i{\sum }_j{\omega }_j{f}_j(y_{i-1},y_i,\bar{x},i))}{{\sum }_{y^{\prime }\in Y}exp({\sum }_i{\sum }_j{\omega }_j{f}_j(y_{i-1}^{\prime },y_i^{\prime },\bar{x},i))}$$

优点与缺点

• 没有严格的独立性假设条件，可以容纳任意上下文信息；特征设计灵活
• 训练代价大