机器学习笔记之隐马尔科夫模型(三)

学习算法

1.1 监督学习算法

假设已给训练数据包含 $S$ 个长度相同的观测序列和对应的状态序列$\{(O_1,I_1),(O_2,I_2),\cdots, (O_s,I_s)\}$, 那么可以利用极大似然估计来估计隐马尔科夫模型的参数。方法如下：

1. 转移概率 $a_{ij}$ 的估计

设样本中时刻 $t$ 处于状态 $i$ 时刻 $t+1$ 转移到状态 $j$ 的频数为 $A_{ij}$， 那么状态转移概率 $a_{ij}$ 的估计是

$$\hat a_{ij} = \frac{A_{ij}}{\sum_{ j = 1}^{N}}, i = 1,2,\cdots,N, j = 1,2,\cdots,N$$

1. 观测概率 $b_j(k)$ 的估计

设样本中状态为 $j$ 并观测为 $k$ 的频数是 $B_{jk}$， 那么状态为 $j$ 观测为 $k$ 的概率 $b_j(k)$ 的估计是

$$\hat b = \frac{B_{jk}}{\sum_{k =1 }^{M}B_{jk}}, j = 1,2,\cdots,N; k = 1,2,\cdots,M$$

1. 初始状态概率 $\pi_i$ 的估计 $\hat \pi_i$ 为 $S$ 个样本中初始状态为 $q_i$ 的频率

1.2 非监督学习算法（Baum-Welch 算法）

假设给定训练数据只包含 $S$ 个长度为 $T$ 的观测序列 $\{O_1,O_2,\cdots,O_s\}$ 而没有对应的状态序列， 目标是学习隐马尔科夫模型 $\lambda = (A,B,\pi)$ 的参数，我们将观测序列数据看做观测数据 $O$, 状态序列数据看做不可观测的隐藏数据 $I$, 那么隐马尔科夫模型可以看做是一个含有隐变量的模概率模型

$$P(O|\lambda) = \sum_I P(O|I,\lambda)P(I|\lambda)$$
它的参数学习可以由 $EM$ 算法实现

算法步骤及推导：

1. 确定完全数据的对数似然函数

所有观测数据写成 $O = (o_1,o_2,\cdots,o_T)$ ，所有隐数据写成 $I = (i_1,i_2,\cdots,i_T)$ ， 完全数据是 (O,I)=(o1,o2,⋯,oT,i1,i2,⋯,