机器学习基础算法35-HMM

一、隐马尔科夫模型

1.HMM定义

隐马尔科夫模型可用于标注问题，在语音识别、NLP、生物信息、模式识别等方面被实践证明是有效算法。
HMM是关于时序的概率模型，描述由一个隐藏的马尔科夫链生成不可观测的状态随机序列，再由各个状态生成观测随机序列的过程。
状态序列： HMM模型随机生成的状态随机序列
观测序列： 每个状态生成一个观测，由此产生的观测随机序列
序列的每一个位置可看做是一个时刻

隐马尔科夫模型贝叶斯网络：

1什么样的问题需要HMM模型

在Z1和Z2不可观测的前提下，X1和X2不独立

1什么样的问题需要HMM模型
首先我们来看看什么样的问题解决可以用HMM模型。

使用HMM模型时我们的问题一般有这两个特征：

１）我们的问题是基于序列的，比如时间序列，或者状态序列。

２）我们的问题中有两类数据，一类序列数据是可以观测到的，即观测序列；而另一类数据是不能观察到的，即隐藏状态序列，简称状态序列。

有了这两个特征，那么这个问题一般可以用HMM模型来尝试解决。这样的问题在实际生活中是很多的。比如：我现在在打字写博客，我在键盘上敲出来的一系列字符就是观测序列，而我实际想写的一段话就是隐藏序列，输入法的任务就是从敲入的一系列字符尽可能的猜测我要写的一段话，并把最可能的词语放在最前面让我选择，这就可以看做一个HMM模型了。再举一个，我在和你说话，我发出的一串连续的声音就是观测序列，而我实际要表达的一段话就是状态序列，你大脑的任务，就是从这一串连续的声音中判断出我最可能要表达的话的内容。

2.HMM模型定义

对于HMM模型，首先我们假设Q是所有可能的隐藏状态的集合，V是所有可能的观测状态的集合，即：

其中，N是可能的隐藏状态数，M是所有的可能的观察状态数。

对于一个长度为 T 的序列， I 对应的状态序列, O是对应的观察序列，即：

3.HMM举例（中看不中用）

HMM的三个问题

4.概率计算问题

1.直接计算法

2.前向算法（重要）