隐马尔可夫模型

隐马尔可夫模型详解（HMM）

隐马尔可夫模型的详细版本，添加了实例和具体公式，便于理解。
欢迎纠错

马尔可夫模型

概念导入

在某段时间内，交通信号灯的颜色变化序列是：红色 - 黄色 - 绿色 - 红色。

在某个星期天气的变化状态序列：晴朗 - 多云 - 雨天。

像交通信号灯一样**，某一个状态只由前一个状态决定**，这就是一个一阶马尔可夫模型。而像天气这样，天气状态间的转移仅依赖于前 n 天天气的状态，即状态间的转移仅依赖于前 n 个状态的过程。这个过程就称为n 阶马尔科夫模型。
(关键是依赖于前几个状态）

不通俗的讲，马尔可夫模型（Markovmodel）描述了一类重要的随机过程，随机过程又称随机函数，是随时间而随机变化的过程。（随时间而随机变化的过程）

马尔可夫模型定义

存在一类重要的随机过程，如果一个系列有N个状态:$S_1,S_2,...,S_N$随时间的推移，该系统从某一状态转移到另一个状态，如果用$q_t$表示系统在时间$t$的状态变量，那么$t$时刻状态的取值为$S_j$,(1<=j<=N)的概率取决于前$t-1$个时刻，（$1,2.\cdots t-1$的状态，该概率为:
(状态变量、状态取值）
$$$P(q_t=S_j|q_{t-1}=S_i,q_{t-2}=S_k,\cdots )$$
假设一：如果在特定情况下，系统在时间$t$的状态只与其在$t-1$时刻状态相关，则该系统构成一个离散的一阶马尔可夫链。
$$P(q_t=S_j|q_{t-1}=S_i,q_{t-2}=S_k,\cdots )=P(q_t=S_j|q_{t-1}=S_i)$$
假设二：如果只考虑独立于时间$t$的随机过程，状态与时间无关，那么$P(q_t=S_j|q_{t-1}=S_i)=a_{ij}，1<=i,j<=N$

$t$时刻状态概率取决于前$t-1$时刻$1,2,\cdots t-1$的状态，且状态的转换与时间无关，则该随机过程是马尔可夫模型。

隐马尔可夫模型

概念导入

在马尔可夫模型中，每个状态代表了一个可观察的事件，所以，马尔可夫模型有时又称作可视马尔可夫模型（visibleMarkovmodel，VMM），这在某种程度上限制了模型的适应性。

对于盲人来说也许不能够直接获取到天气的观察情况，但是他可以通过触摸树叶通过树叶的干燥程度判断天气的状态。于是天气就是一个隐藏的状态，树叶的干燥程度是一个可观察的状态，于是我们就有了两组状态，一个是不可观察、隐藏的状态（天气），一个是可观察的状态（树叶），我们希望设计一种算法，在不能够直接观察天气的情况下，通过树叶和马尔可夫假设来预测天气。
一个一阶乘马尔可夫链路描述:

在隐马尔可夫模型（HMM）中，我们不知道模型具体的状态序列，只知道状态转移的概率，即模型的状态转换过程是不可观察的。
因此，该模型是一个双重随机过程，包括模型的状态转换和特定状态下可观察事件的随机

HMM组成

例如：N个袋子，每个袋子有M种不同颜色的球，选择一个袋子，取出一个球，得到球的颜色。

• 状态数为N（袋子数量）
• 每个状态可能的符号数M(不同颜色球的数目)
• 状态转移概率矩阵$A=a_{ij}$
  （从一只袋子状态$S_i$转向另一只袋子状态$S_j$的取球概率.
• 从状态$Sj$观察到某一特定符号 vk 的概率分布矩阵为： (从第 j 个袋子中取出第 k 种颜色的球的概率)
• 初始状态的概率分布为$\pi ={\pi }_i$

一般将一个马尔可夫模型记为:$\lambda =[\pi ,A,B]$

需要确定以下三方面内容:

• 设置$t=1$,并根据初始状态概率$\pi$选择初始状态$Y_1$;
• 根据状态值和输出观测概率B选择观测变量取值$X_t$
• 根据状态值和状态转移矩阵A转移模型状态，即确定$Y_{t+1}$

三个问题

一旦一个系统可以作为HMM描述，就可以用来解决三个基本问题。

• 评估（Evaluation)
  给定HMM，即$\mu =[\pi ,A,B]$,求某个观测序列的概率.
  例如：给定一个天气的隐马尔可夫模型，包括第一天的天气概率分布，天气转移概率矩阵，特定天气下树叶的湿度概率分布。求第一天湿度为 1，第二天湿度为 2，第三天湿度为 3 的概率。
• 解码（Decoding)
  给定HMM，即$\mu =[\pi ,A,B]$,以及某个观测序列，求得天气的序列。
  例如：给定一个天气的隐马尔可夫模型，包括第一天的天气概率分布，天气转移概率矩阵，特定天气下树叶的湿度概率分布。并且已知第一天湿度为 1，第二天湿度为 2，第三天湿度为 3。求得这三天的天气情况
  即：发现“最优”状态序列能够“最好地解释”观察序列
• 学习(Learning)
  给定一个观察序列，得到一个隐马尔可夫模型。

例如：已知第一天湿度为 1，第二天湿度为 2，第三天湿度为 3。求得一个天气的隐马尔可夫模型，包括第一天的天气，天气转移概率矩阵，特定天气下树叶的湿度概率分布。

前向算法

对于评估问题

给定HMM ，求某个序列$\mu =[\pi ,A,B]$的观测概率。
例如：给定一个天气的隐马尔可夫模型，包括第一天的天气概率分布，天气转移概率矩阵，特定天气下树叶的湿度概率分布。求第一天湿度为 1，第二天湿度为 2，第三天湿度为 3 的概率。

思路一：找到所有状态序列，得到各状态概率，得到每种状态概率对应的观察概率，求和。
（所有状态序列$\to$各状态概率$\to$每种状态概率对应的观察概率。$\to$求和.


思路二： 采用动态规划——前向算法

后向算法

Viterbi搜索算法

如何理解最优的状态 序列?

Viterbi搜索算法

每个时刻都求得每个状态的概率，并求得最大概率对应上一时刻的状态。

算法描述

参数学习

对于学习问题

• 给定一个观察序列，得到一个隐马尔可夫模型。

• 已知第一天湿度为 1，第二天湿度为 2，第三天湿度为 3。求得一个天气的隐马尔可夫模型，包括第一天的天气，天气转移概率矩阵，特定天气下树叶的湿度概率分布。

• 如果产生观察序列 O 的状态已知(即存在大量标注的样本), 可以用最大似然估计来计算 的参数：Baum-Welch 算法(前向后向算法)描述

• 如果不存在大量标注的样本：期望值最大化算法(Expectation-Maximization, EM)

HMM应用

中文分词问题

如果有标注语料，则问题的解决过程：

计算初始状态概率分布
计算转移概率矩阵
计算输出概率矩阵
使用 Viterbi 算法解码
如果没有标注语料，则问题的解决过程：

获取词的个数
确定状态的个数
参数学习（利用 EM 迭代算法获取初始状态概率、状态转移概率和输出概率）
使用 Viterbi 算法解码

学习心得

本次学习就到这里，慢慢的根据应用将隐马尔可夫模型学习到这里，
会使用什么模型，用什么模型都行啦的样子与打算，全部将其搞定都行啦的理由与样子。