隐马尔可夫模型（HMM）

1. 马尔可夫模型（Markov Model）
马尔可夫链：是随机变量 X1, … , Xn 的一个数列。
马尔可夫假设：假设这个模型的每个状态都只依赖于前一个的状态
马尔可夫性质：

马尔可夫过程：代表数学中具有马尔可夫性质的离散随机过程。该过程中，每个状态的转移只依赖于之前的 n 个状态，这个过程被称为1个 n 阶的模型，其中 n 是影响转移状态的数目。最简单的马尔科夫过程就是一阶过程，每一个状态的转移只依赖于其之前的那一个状态。

模型图：

2.隐马尔可夫模型（Hidden Markov Model）
2.1例子
（下面用掷骰子的例子来理解什么叫做隐含链）
假设我手里有三个不同的骰子。第一个骰子是我们平常见的骰子（称这个骰子为D6），6个面，每个面（1，2，3，4，5，6）出现的概率是1/6。第二个骰子是个四面体（称这个骰子为D4），每个面（1，2，3，4）出现的概率是1/4。第三个骰子有八个面（称这个骰子为D8），每个面（1，2，3，4，5，6，7，8）出现的概率是1/8。

假设我们开始掷骰子，每次从三个骰子里挑一个，挑到每一个骰子的概率都是1/3.选中一个骰子后，掷骰子得到一个数字，记录这个数字。重复进行选骰子掷骰子得到一个观测序列，如：1 6 3 5 2 7 3 5 2 4（这串数字叫做可见状态链）
但是在马尔可夫模型中，我们不仅有可见状态链，还有隐含状态连，比如上面观测序列的隐含状态序列就可能为D6 D8 D8 D6 D4 D8 D6 D6 D4 D8
2.2定义
我们将这种类型的过程建模为一个由隐藏的马尔可夫过程和一个与这个马尔可夫过程概率相关的并且可以观察到的状态集合，这就是马尔可夫模型。
隐马尔可夫模型（HMM）是一种统计模型，用来描述一个含有隐含未知数的马尔可夫过程。
下图是一个三个状态的隐马尔可夫模型状态转移图，其中x 表示隐含状态，y 表示可观察的输出，a 表示状态转换概率，b 表示输出概率。

状态转换概率：存在于隐含状态之间，对应于转移矩阵
输出概率：存在于隐含状态和可见状态之间，可见状态之间没有转换概率，对应于观测矩阵（混淆矩阵）

2.3表示—5元组{N,M,PI,A,B}
2.3.1 N StatusSet 状态值集合（隐状态） 隐藏状态的数量
2.3.2 M ObservedSet 观察值集合（显状态） 观测状态的数量
2.3.3 A TransProbMatrix 转移矩阵（隐状态） NN
2.3.4 B EmitProbMatrix 观测矩阵（从隐到显） NM
2.3.5 PI InitStatus 初始概率分布（隐状态）

用这两个表达式来计算并生成我们的转移矩阵以及观测矩阵

2.4三个典型问题
2.4.1 已知模型参数，计算某一给定可观察状态序列的概率（评估问题）

遍历法：遍历所有可能的隐藏状态序列，有310种可能序列，计算每种可能的隐藏状态序列的概率，在它的基础上计算观测序列出现的概率，最后相加得总的概率。
向前算法：

2.4.2 根据可观察状态的序列找到一个最可能的隐藏状态序列（解码问题）
遍历法：列出所有可能的隐藏状态，分别计算得到观测序列的概率p，则计算得到最大p的隐藏状态序列为最可能的隐藏状态序列
维特比算法(Viterbi algorithm)：
维特比（Viterbi）算法实际是用动态规划解隐马尔可夫模型预测问题，即用动态规划(dynamic programming)求概率最大路径（最优路径）。这时一条路径对应着一个状态序列。
2.4.3 根据观察到的序列集来找到一个最有可能的 HMM（学习问题）
数据集仅有观测序列，如何调整模型参数 λ=(π, A, B), 使得P(O|λ)最大

3.隐半马尔可夫模型（Hidden semi-Markov Models,HSMM）
也可以称为explicit-duration HMM或者variable-duration hidden Markov model
HSMM(hidden sem-iMarkovmodels)是隐半马尔可夫模型的缩写，是HMM（隐马尔可夫模型）的一种扩展模型。隐半马尔可夫模型(HSMM)是考虑状态驻留概率分布为显式的一种HMM,是在已定义的隐马尔可夫模型的结构上加入时间组成部分,克服了因马尔可夫链的假设造成HMM建模所具有的局限性,在解决现实问题中HSMM提供更好的建模能力和分析能力，改进了模式分类能力,提高了模式分类的精度。与常规HMM中一个状态只对应一个观测值不同,HSMM中一个状态对应一节(segment)观测值。

模型图：

示例：

参考文献：
https://www.cnblogs.com/bigmonkey/p/7230668.html
https://blog.csdn.net/mingzai624/article/details/52399235
https://blog.csdn.net/likelet/article/details/7056068
https://ieeexplore.ieee.org/document/6247808