隐马尔科夫模型

隐马尔可夫模型

隐马尔可夫模型(Hidden Markov Model, HMM)可以由观测序列推断出概率最大的状态序列.

HMM中的变量可分为两组:
状态变量(隐变量): { y 1 , y 2 , . . . , y n } \left \{ y_{1},y_{2},...,y_{n}\right \} {y1​,y2​,...,yn​};序列标注问题中的标注.
观察变量: { x 1 , x 2 , . . . , x n } \left \{ x_{1},x_{2},...,x_{n}\right \} {x1​,x2​,...,xn​};序列标注问题的文本序列.

1、两个基本假设

隐马尔可夫模型做了两个基本假设：
(1)齐次马尔可夫性假设
(2)观测独立性假设

关于齐次马尔可夫假设： 上图中的箭头表示了变量间的依赖关系.因为齐次马尔可夫假设，t时刻的状态$y_t$仅依赖于t-1时刻的状态$y_{t-1}$，与其余n-2个状态无关。
关于观测独立性： 上图中的箭头表示了变量间的依赖关系.因为观测独立假设,在任意时刻,观察变量的取值仅依赖于状态变量,即$x_t$由$y_t$确定,与其他状态变量及观察变量的取值无关。

2、HMM构造

隐马尔可夫模型由初始状态概率向量 $\pi$ 、状态转移概率矩阵A和观测概率矩阵B决定。 $\pi$和A决定状态序列，B决定观测序列。因此，隐马尔可夫模型λ 可用三元符号表示，即λ=(A, B, $\pi$)

A，B，$\pi$ 称为马尔可夫模型的三要素。

状态转移该概率矩阵A与初始状态概率向量确定了隐藏的马尔科夫链，生成不可观测的状态序列。观测概率矩阵B确定了如何从状态生成观测，与状态序列综合确定了如何产生观测序列。

隐马尔可夫模型的形式定义如下：
设 V = { v 1 , v 2 , . . . , v M } V= \left \{ v_{1},v_{2},...,v_{M}\right \} V={v1​,v2​,...,vM​}是所有可能的观测的集合， Q = { q 1 , q 2 , . . . , q N } Q = \left \{ q_{1},q_{2},...,q_{N}\right \} Q={q1​,q2​,...,qN​}是所有可能的状态的集合。其中，N是可能的状态数，M是可能的观测数。 X = { x 1 , x 2 , . . . , x T } X = \left \{ x_{1},x_{2},...,x_{T}\right \} X={x1​,x2​,...,xT​}是长度为T的观测序列, Y = { y 1 , y 2 , . . . , y T } Y = \left \{ y_{1},y_{2},...,y_{T}\right \} Y={y1​,y2​,...,yT​}是对应的状态序列。
A是状态转移概率矩阵：$$A=[a_{ij}{]}_{N\times N}$$
其中，$a_{ij}=P(y_{t+1}=q_j|y_t=q_i)$, i=1,2,…N; j=1,2,…N
是在时刻t处于状态$q_i$的条件下在时刻t+1转移到状态$q_j$的概率。
B是观测概率矩阵：$$B=[b_j(k){]}_{N\times M}$$
其中，$b_j(k)=P(x_t=v_k|y_t=q_j)$, k=1,2,…M; j=1,2,…N
是在时刻t处于状态$q_j$的条件下生成观测$v_k$的概率。
$\pi$是初始状态概率向量：$$\pi =({\pi }_i)$$
其中，${\pi }_i=P(x_1=q_i)$, i=1,2,…N; 是时刻t=1处于状态$q_i$的概率。

3、HMM使用

概率计算问题。给定模型λ=(A, B, $\pi$)和观测序列 X = { x 1 , x 2 , . . . , x n } X = \left \{ x_{1},x_{2},...,x_{n}\right \} X={x1​,x2​,...,xn​}，计算在模型λ下观测序列X出现的概率P(X|λ)。前向-后向算法是通过递推地计算前向-后向概率可以高效地进行隐马尔可夫模型的概率计算。

学习问题。已知观测序列 X = { x 1 , x 2 , . . . , x n } X = \left \{ x_{1},x_{2},...,x_{n}\right \} X={x1​,x2​,...,xn​}，估计模型参数λ=(A, B, $\pi$)，使得在该模型下观测序列概率P(X|λ)最大。即用极大似然估计的方法估计参数。Baum-Welch算法，也就是EM算法可以高效地对隐马尔可夫模型进行训练。它是一种非监督学习算法。

预测问题。已知模型λ=(A, B, $\pi$)和观测序列 X = { x 1 , x 2 , . . . , x n } X = \left \{ x_{1},x_{2},...,x_{n}\right \} X={x1​,x2​,...,xn​}，求对给定观测序列条件概率P(Y |X)最大的状态序列 Y = { y 1 , y 2 , . . . , y n } Y = \left \{ y_{1},y_{2},...,y_{n}\right \} Y={y1​,y2​,...,yn​}。维特比算法应用动态规划高效地求解最有路径，即概率最大的状态序列。

Reference

1.《统计学习方法》，李航著
2.《机器学习》，周志华著