电信保温杯笔记——《统计学习方法（第二版）——李航》第10章 隐马尔可夫模型

论文

HMM算法：《An introduction to hidden Markov models》、《A tutorial on hidden Markov models and selected applications in speech recognition》
Baum-Welch算法：《A maximization technique occurring in the statistical analysis of probabilistic functions of Markov chains》

介绍

电信保温杯笔记——《统计学习方法（第二版）——李航》
本文是对原书的精读，会有大量原书的截图，同时对书上不详尽的地方进行细致解读与改写。

隐马尔可夫模型

隐马尔可夫模型的定义

对于NLP的标注问题，就是给句子中每个词标注它的词性，如 n，adj，v 等，状态的集合 Q 为｛n，adj，v…｝，观测值的集合 V 为词的集合。

隐马尔可夫模型的基本假设

例子

盒子就是状态，球的颜色就是观测值。

隐马尔可夫模型的作用

生成观测序列

例如自动写作。

预测状态序列

对于NLP的标注问题，就是给句子中每个词标注它的词性，如 n，adj，v 等，状态的集合 Q 为｛n，adj，v…｝，观测值的集合 V 为词的集合，观测序列就是句子。

隐马尔可夫模型的三个基本问题及其解法

三个基本问题

基本问题一：计算观测序列的概率

基本问题二：估计模型的参数

基本问题三：计算状态序列的概率

下面各节将逐一介绍这些基本问题的解法。

基本问题一的解法

直接计算法

状态序列组合共有 $N^T$ 种，公式（10.12）共 $2T$ 个元素相乘。

向前算法

$$\begin{array}{rl}{\alpha }_{t+1}(i)& =P(o_1,o_2,\cdots ,o_t,o_{t+1},i_{t+1}=q_i|\lambda )\\ & =\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,o_{t+1},i_t=q_j,i_{t+1}=q_i|\lambda )\\ & =\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_j,i_{t+1}=q_i|\lambda )P(o_{t+1}|o_1,o_2,\cdots ,o_t,i_t=q_j,i_{t+1}=q_i,\lambda )\\ & =\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_j,i_{t+1}=q_i|\lambda )P(o_{t+1}|i_{t+1}=q_i,\lambda )\text{（基于假设2）}\\ & =\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_j,i_{t+1}=q_i|\lambda )b_i(o_{t+1})\\ & =\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_j|\lambda )P(i_{t+1}=q_i|o_1,o_2,\cdots ,o_t,i_t=q_j,\lambda )b_i(o_{t+1})\\ & =\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_j|\lambda )P(i_{t+1}=q_i|i_t=q_j,\lambda )b_i(o_{t+1})\text{（基于假设1）}\\ & =\sum _{j=1}^N{\alpha }_t(j)a_{ji}{b}_i(o_{t+1})i=1,2,\cdots ,N(10.16)\end{array}$$
（3）终止
$$\begin{array}{rl}P(O|\lambda )& =P(o_1,o_2,\cdots ,o_T|\lambda )\\ & =\sum _{i=1}^{N}P(o_1,o_2,\cdots ,o_T,i_T=q_i|\lambda )\\ & =\sum _{i=1}^N{\alpha }_T(i)(10.17)\end{array}$$

例子

向后算法

（1）
$$\begin{array}{rl}{\beta }_T(i)& =P(|i_T=q_i,\lambda )=1i=1,2,\cdots ,N(10.19)\end{array}$$
（2）对 $t=T-1,T-2,\cdots ,1$
$$\begin{array}{rl}{\beta }_t(i)& =P(o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i,\lambda )\\ & =\sum _{j=1}^{N}P(i_{t+1}=q_j,o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i,\lambda )\\ & =\sum _{j=1}^{N}P(o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i,i_{t+1}=q_j,\lambda )P(i_{t+1}=q_j|i_t=q_i,\lambda )\\ & =\sum _{j=1}^{N}P(o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i,i_{t+1}=q_j,\lambda )a_{ij}\\ & =\sum _{j=1}^{N}P(o_{t+1},o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )a_{ij}\text{（基于假设2）}\\ & =\sum _{j=1}^{N}P(o_{t+1}|i_{t+1}=q_j,\lambda )P(o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )a_{ij}\\ & =\sum _{j=1}^N{b}_j(o_{t+1}){\beta }_{t+1}(j)a_{ij}i=1,2,\cdots ,N(10.20)\end{array}$$
（3）
$$\begin{array}{rl}P(O|\lambda )& =P(o_1,o_2,\cdots ,o_T|\lambda )\\ & =\sum _{i=1}^{N}P(o_1,o_2,\cdots ,o_T,i_1=q_i|\lambda )\\ & =\sum _{i=1}^{N}P(o_1,o_2,\cdots ,o_T,|i_1=q_i,\lambda )P(i_1=q_i|\lambda )\\ & =\sum _{i=1}^{N}P(o_1,o_2,\cdots ,o_T,|i_1=q_i,\lambda ){\pi }_i\\ & =\sum _{i=1}^{N}P(o_1|i_1=q_i,\lambda )P(o_2,\cdots ,o_T,|i_1=q_i,\lambda ){\pi }_i\\ & =\sum _{i=1}^N{b}_i(o_1){\beta }_1(i){\pi }_i(10.21)\end{array}$$

$$\begin{array}{rl}P(O|\lambda )& =P(o_1,o_2,\cdots ,o_t,o_{t+1},o_{t+2},\cdots ,o_T|\lambda )\\ & =\sum _{i=1}^N\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_i,i_{t+1}=q_j,o_{t+1},o_{t+2},\cdots ,o_T|\lambda )\\ & =\sum _{i=1}^N\sum _{j=1}^{N}P(o_1,o_2,\cdots ,o_t,i_t=q_i|\lambda )P(i_{t+1}=q_j,o_{t+1},o_{t+2},\cdots ,o_T|o_1,o_2,\cdots ,o_t,i_t=q_i,\lambda )\\ & =\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)P(i_{t+1}=q_j,o_{t+1},o_{t+2},\cdots ,o_T|o_1,o_2,\cdots ,o_t,i_t=q_i,\lambda )\\ & =\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)P(o_{t+1},o_{t+2},\cdots ,o_T|o_1,o_2,\cdots ,o_t,i_t=q_i,i_{t+1}=q_j,\lambda )P(i_{t+1}=q_j|o_1,o_2,\cdots ,o_t,i_t=q_i,\lambda )\\ & =\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)P(o_{t+1},o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )P(i_{t+1}=q_j|i_t=q_i,\lambda )\\ & =\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)P(o_{t+1},o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )a_{ij}\\ & =\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)a_{ij}P(o_{t+1}|i_{t+1}=q_j,\lambda )P(o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )\\ & =\sum _{i=1}^N\sum _{j=1}^N{\alpha }_t(i)a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)(10.22)\end{array}$$

—些概率与期望值的计算

$$\begin{array}{rl}P(i_t=q_i,O|\lambda )& =P(o_1,o_2,\cdots ,o_t,i_t=q_i,o_{t+1},o_{t+2},\cdots ,o_T|\lambda )\\ & =P(o_1,o_2,\cdots ,o_t,i_t=q_i|\lambda )P(o_{t+1},o_{t+2},\cdots ,o_T|o_1,o_2,\cdots ,o_t,i_t=q_i,\lambda )\\ & =P(o_1,o_2,\cdots ,o_t,i_t=q_i|\lambda )P(o_{t+1},o_{t+2},\cdots ,o_T|i_t=q_i,\lambda )\\ & ={\alpha }_t(i){\beta }_t(i)\end{array}$$

$$\begin{array}{rl}P(i_t=q_i,i_{t+1}=q_j,O|\lambda )& =P(o_1,o_2,\cdots ,o_t,i_t=q_i,i_{t+1}=q_j,o_{t+1},o_{t+2},\cdots ,o_T|\lambda )\\ & =P(o_1,o_2,\cdots ,o_t,i_t=q_i|\lambda )P(i_{t+1}=q_j,o_{t+1},o_{t+2},\cdots ,o_T|o_1,o_2,\cdots ,o_t,i_t=q_i,\lambda )\\ & ={\alpha }_t(i)P(i_{t+1}=q_j,o_{t+1},o_{t+2},\cdots ,o_T|o_1,o_2,\cdots ,o_t,i_t=q_i,\lambda )\\ & ={\alpha }_t(i)P(o_{t+1},o_{t+2},\cdots ,o_T|o_1,o_2,\cdots ,o_t,i_t=q_i,i_{t+1}=q_j,\lambda )P(i_{t+1}=q_j|o_1,o_2,\cdots ,o_t,i_t=q_i,\lambda )\\ & ={\alpha }_t(i)P(o_{t+1},o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )P(i_{t+1}=q_j|i_t=q_i,\lambda )\\ & ={\alpha }_t(i)P(o_{t+1},o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )a_{ij}\\ & ={\alpha }_t(i)P(o_{t+1}|i_{t+1}=q_j,\lambda )P(o_{t+2},\cdots ,o_T|i_{t+1}=q_j,\lambda )a_{ij}\\ & ={\alpha }_t(i)a_{ij}{b}_j(o_{t+1}){\beta }_{t+1}(j)\end{array}$$

基本问题二的解法

监督学习算法

Baum-Welch 算法

$I$ 是隐变量。EM算法可以参考电信保温杯笔记——《统计学习方法（第二版）——李航》第9章 EM算法及其推广，如果了解EM算法，下面推导其实可以不用看

步骤

基本问题三的解法

近似算法

维特比算法（viterbi）

可以先看看这个视频机器学习-白板推导系列(十四)-隐马尔可夫模型HMM（Hidden Markov Model）

维特比算法其实和向前算法类似，只不过一个是求 max，一个是求 sum，递推的方式都是一样的，等下看公式的时候就知道。

$\delta$ 记录的是概率，$\Psi$ 记录的是一个状态。

对比向前算法的递推式：
$$\begin{array}{rl}{\alpha }_{t+1}(i)& =P(o_1,o_2,\cdots ,o_t,o_{t+1},i_{t+1}=q_i|\lambda )\\ & =\sum _{j=1}^N{\alpha }_t(j)a_{ji}{b}_i(o_{t+1})i=1,2,\cdots ,N(10.16)\end{array}$$

步骤

例子

本章概要

相关视频

机器学习-白板推导系列(十四)-隐马尔可夫模型HMM（Hidden Markov Model）

相关的笔记

hktxt /Learn-Statistical-Learning-Method

相关代码

Dod-o /Statistical-Learning-Method_Code
这个词性标注不同于平时的词性标注，它标记字属于词的什么部分：
B：词语的开头
M：一个词语的中间词
E：一个词语的结尾
S：非词语，单个词
这四个就是状态的集合 $Q$。

def trainParameter(fileName):
用定义直接统计 $\pi$、A、B，概率结果使用 $\log P$ 保存，以防概率累乘后值太小，属于一个技巧。

def loadArticle(fileName):
读取测试集文章

def participle(artical, PI, A, B):
使用维特比算法，将每个字的隐状态预测出来，遇到状态 E 或 S 就作为划分的依据，实现了分词的效果。

pytorch

tensorflow

keras

pytorch API:

tensorflow API