【10.1算法理论部分（1）基本概念和三个基本问题】Hidden Markov Algorithm——李航《统计学习方法》公式推导

第10章 隐马尔可夫模型

1. 隐马尔可夫模型（Hidden Markov model,HMM）是可用于序列标注问题的统计学模型，描述了由隐马尔可夫链随机生成观察序列的过程，属于生成模型。

2. 隐马尔可夫模型：隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观察而产生观察随机序列的过程

10.1基本概念

10.1.1隐马尔可夫模型的定义

隐马尔可夫模型（Hidden Markov Model，HMM）是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列；每个状态生成一个观测，而由此产生的观测的随机序列，称为观测序列，序列的每一个位置又可以看作是一个时刻。其形式定义如下：

Q是所有可能的状态的集合，V是所有可能的观测的集合：
$$Q=q_1,q_2,\cdot \cdot \cdot ,q_N,V=v_1,v_2,\cdot \cdot \cdot ,v_M$$
其中，N是可能的状态数，M是可能的观测数。
I是长度为T的状态序列，O是对应的观测序列：
$$S=s_1,s_2,\cdot \cdot \cdot ,s_T,O=o_1,o_2,\cdot \cdot \cdot ,o_T$$
A 是状态转移概率矩阵：
$$A=\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdot \cdot \cdot & a_{1N}\\ a_{21}& a_{22}& \cdot \cdot \cdot & a_{2N}\\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ a_{N1}& a_{N2}& \cdot \cdot \cdot & a_{NN}\end{array}\right]----(10.1补充)$$
即：
$$A={\left[\begin{array}{c}{a}_{ij}\end{array}\right]}_{N\ast N}----(10.1)$$
其中，$$a_{ij}=P(s_{t+1}=q_j|s_t=q_i),i=1,2,\cdot \cdot \cdot ,N;j=1,2,\cdot \cdot \cdot ,N----(10.2)$$，表示在时刻t处于状态$q_i$的条件下在时刻t+1转移到状态$q_j$的概率。
B 是观测概率矩阵：
$$B=\left[\begin{array}{cccc}{b}_{11}& b_{12}& \cdot \cdot \cdot & b_{1M}\\ b_{21}& b_{22}& \cdot \cdot \cdot & b_{2M}\\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ \cdot & \cdot & \cdot \cdot \cdot & \cdot \\ b_{N1}& b_{N2}& \cdot \cdot \cdot & b_{NM}\end{array}\right]----(10.3补充)$$
即：
$$B={\left[\begin{array}{c}{b}_{ij}\end{array}\right]}_{N\ast M}----(10.3)$$
其中，$$b_j(k)=P(o_t=v_k|s_t=q_j),k=1,2,\cdot \cdot \cdot ,M;j=1,2,\cdot \cdot \cdot ,N----(10.4)$$，表示在时刻t处于状态$q_j$的条件下生成观测$v_k$的概率。
π是初始状态概率向量：
$$\pi ={\pi }_1,{\pi }_2,\cdot \cdot \cdot ,{\pi }_N----(10.5补充)$$
即：
$$\pi =({\pi }_i)----(10.5)$$
其中，$$\pi =P(s_1=q_i),i=1,2,\cdot \cdot \cdot ,N----(10.6)$$，是时刻t = 1处于状态$q_i$的概率。
隐马尔可夫模型由初始状态概率向量π、状态转移概率矩阵A和观测概率矩阵B决定。π和A决定状态序列，B决定观测序列。因此，隐马尔可夫模型λ
可以用三元符号表示，即：
$$\lambda =(A,B,\pi )----(10.7)$$
$A,B,\pi$称为隐马尔可夫模型的三要素。
从定义可知，隐马尔可夫模型作了两个基本假设：
(1)齐次马尔可夫性假设，即假设隐藏的马尔可夫链在任意时刻t的状态只依赖于其前一时刻的状态，与其他时刻的状态及观测无关，也与时刻t无关：
$$P(s_t|s_{t-1},o_{t-1},\cdot \cdot \cdot ,s_1,o_1)=P(s_t|s_{t-1}),i=1,2,\cdot \cdot \cdot ,T----(10.8);$$
(2)观测独立性假设，即假设任意时刻的观测只依赖于该时刻的马尔可夫链的状态，与其他观测及状态无关：
$$P(o_t|s_T,o_T,\cdot \cdot \cdot ,s_{t+1},o_{t+1},s_t,s_{t-1},o_{t-1},\cdot \cdot \cdot ,s_1,o_1)=P(o_t|s_t),i=1,2,\cdot \cdot \cdot ,T----(10.9);$$
看了一大堆的定义没有例子很容易理解不深刻，建议看一下书上的例10.1（盒子和球模型），看完之后就可以很快的理解这些基本概念

10.1.2观测序列的生成过程

根据隐马尔可夫模型定义，可以将一个长度为T的观测序列$O=（o_1,o_2,\cdot \cdot \cdot ,o_T）$的生成过程描述如下。
算法10.1（观测序列的生成）
输入：隐马尔可夫模型$\lambda =(A,B,\pi )$，观测序列长度T；
输出：观测序列$O=（o_1,o_2,\cdot \cdot \cdot ,o_T）$
（1）按照初始状态分布 $\pi$产生状态 $s_1$ ；
（2）令t = 1;
（3）按照状态$s_t$的观测概率分布$b_{s_t}(k)$生成$o_t$;
（4）按照状态$s_t$的状态转移概率分布{$a_{s_t{s}_{t+1}}$}产生状态$s_{t+1},s_{t+1}=1,2,\cdot \cdot \cdot ,N$;
（5）令t = t + 1;如果t < T，转步（3）；否则，终止。

10.1.3HMM的3个基本问题

（1）Evaluation：Given λ ，求 P(O|λ)——这里就用到了Forward/Backword
（2）Learining：${\lambda }_{MLE}=argma{x}_{\lambda }P(O|\lambda )$——Baum-Welch（EM）
（3）Decoding：$\hat{S}=argma{x}_{S}P(S|O,\lambda )$——Viterbi
习惯上（1）又叫做概率计算方法（书中10.2内容），这里主要用到了前向算法和后向算法；（2）又叫做学习算法（书中10.3内容），这里主要是用到了Baum-Welch算法（这个算法其实就是EM算法，后面有时间会更新EM算法的推导）；（3）又叫做预测算法（书中10.4内容）这个书中有近似算法和
Viterbi算法。

参考文献

以下是本次HMM算法系列文章的参考文献：

1. 李航——《统计学习方法》
2. YouTube——shuhuai008的视频课程HMM
3. YouTube——徐亦达机器学习HMM、EM
4. *[https://www.huaxiaozhuan.com/%E7%BB%9F%E8%AE%A1%E5%AD%A6%E4%B9%A0/chapters/15_HMM.html]：隐马尔可夫模型
5. [https://sm1les.com/2019/04/10/hidden-markov-model/]：隐马尔可夫模型（HMM）及其三个基本问题
6. 例子可以看这个[https://www.cnblogs.com/skyme/p/4651331.html]：一文搞懂HMM（隐马尔可夫模型）
7. [https://www.zhihu.com/question/55974064]：南屏晚钟的解答

感谢以上作者对本文的贡献，如有侵权联系后删除相应内容。