机器学习笔记（十三）——隐马尔科夫模型

一、隐马尔科夫模型

    在马尔科夫模型中，每一个状态代表了一个可以观察的事件，所以，马尔科夫模型有时称为可视马尔科夫模型（visible Markov model，VMM），这在某种程度上限制了模型的适应性。在隐马尔科夫模型（HMM）中，我们不知道模型所经过的状态序列，而只知道状态的概率函数，也就是说观察到的事件是状态的随机函数，此模型是一个双重的随机过程。其中，模型的状态转换过程是隐蔽的，可观察事件的随机过程是隐蔽的状态转换过程的随机函数。

二、隐马尔科夫模型的基本原理

    下图是一个隐马尔科夫模型的示意图，用此图来说明HMM的原理。假设一个暗室中有$N$个口袋，每个口袋中有$M$种不同颜色的球。一个实验员根据某一概率分布随机选取一个初始的口袋，从中根据不同颜色球的概率分布，随机选取出一个球，并向室外的人报告该球的颜色。然后再根据口袋的概率分布选择另一个口袋，根据不同颜色球的概率分布随机选择一个球，重复进行这个过程。对于室外的观察人员来说，他只能观察到不同颜色球的序列，口袋的序列不可观察。在这个过程中，口袋对应HMM中的状态，球的颜色对应HMM中状态的输出，从一个口袋到另一个口袋对应于状态的转换，从口袋中取出球的颜色对应于从一个状态输出的观察符号。

2.1 HMM的组成部分

1. 模型中状态的数目$N$（口袋的数目）
2. 从每个状态可能输出的不同符号的数目$M$（球的不同颜色的数目）
3. 状态转移概率矩阵$\boldsymbol{A} = \{a_{ij}\}$,其中
   $$a_{ij}=P(q_t=s_j|q_{t-1},s_i), 1 \le i, j \le N \\ a_{ij} \ge 0 \\ \sum_{j=1}^N a_{ij} = 1$$
4. 从状态$S_j$观察到符号$v_k$的概率分布$\boldsymbol{B} = \{b_j(k)\}$,其中
   $$b_j(k) = P(O_t = v_k|q_t=s_j), 1 \le j \le N, 1\le k \le M\\ b_j(k) \ge 0\\ \sum_{k=1}^M b_j(k) = 1$$
   观察符号的概率又称为发射概率。
5. 初始状态的概率分布$\boldsymbol{\pi} = \{\pi_i\}$,其中
   $$\pi_i=P(q_1=s_i), 1 \le i \le N \\ \pi_i \ge 0 \\ \sum_{i=1}^N \pi_i= 1$$

    一般地，一个HMM记为一个五元组$\mu =(S,K,\boldsymbol{A},\boldsymbol{B},\boldsymbol{\pi})$,其中，$S$为状态集合，$K$为输出符号的集合，$\boldsymbol{A}$为状态转移矩阵，$\boldsymbol{B}$为符号的发射概率，$\boldsymbol{\pi}$为初始状态的概率分布。有时也记为$\mu =(\boldsymbol{A},\boldsymbol{B},\boldsymbol{\pi})$

2.2 观察序列的生成

    当考虑潜在事件随机地生成表面事件时，HMM非常有用。假设给定模型$\mu =(\boldsymbol{A},\boldsymbol{B},\boldsymbol{\pi})$，那么观察序列$O=O_1O_2\dots O_T$可由下面的步骤产生：
1. 根据初始的状态概率分布$\pi_i$选择一个初始的状态$q_1=s_i$
2. 设t=1
3. 根据状态$s_i$的输出概率分布$b_i(k)$输出O_t=v_k
4. 根据状态转移概率分布$a_{ij}$，将当前$t$时刻的状态转移到新的状态$q_{t+1}=s_j$
5. $t = t+1$, 如果$t<T$,重复执行步骤3,4.否则，算法结束。