python 隐马尔科夫_机器学习算法之——隐马尔可夫(Hidden Markov ModelsHMM)原理及Python实现...

前言

上星期写了Kaggle竞赛的详细介绍及入门指导，但对于真正想要玩这个竞赛的伙伴，机器学习中的相关算法是必不可少的，即使是你不想获得名次和奖牌。那么，从本周开始，我将介绍在Kaggle比赛中的最基本的也是运用最广的机器学习算法，很多项目用这些基本的模型就能解决基础问题了。

1 概述

隐马尔可夫模型(Hidden Markov Model，HMM)是结构最简单的动态贝叶斯网，这是一种著名的有向图模型，主要用于时序数据建模(语音识别、自然语言处理等)。

假设有三个不同的骰子(6面、4面、8面)，每次先从三个骰子里选一个，每个骰子选中的概率为1/3，如下图所示，重复上述过程，得到一串数字[1 6 3 5 2 7]。这些可观测变量组成可观测状态链。

同时，在隐马尔可夫模型中还有一条由隐变量组成的隐含状态链，在本例中即骰子的序列。比如得到这串数字骰子的序列可能为[D6 D8 D8 D6 D4 D8]。

隐马尔可夫模型示意图如下所示：

图中，箭头表示变量之间的依赖关系。在任意时刻，观测变量(骰子点数)仅依赖于状态变量(哪类骰子)，“观测独立性假设”。

同时，t时刻的状态qt仅依赖于t-1时刻的状态qt-1。这就是马尔可夫链，即系统的下一时刻的状态仅由当前状态决定不依赖以往的任何状态(无记忆性)，“齐次马尔可夫性假设”。

2 隐马尔可夫模型三要素

对于一个隐马尔可夫模型，它的所有N个可能的状态的集合Q={q1,q2,…,qN}，所有M个可能的观测集合V={v1,v2,…,vM}

隐马尔可夫模型三要素：状态转移概率矩阵A，A=[aij]NxN，aij表示任意时刻t状态qi条件下，下一时刻t+1状态为qj的概率;

观测概率矩阵B，B=[bij]NxM，bij表示任意时刻t状态qi条件下，生成观测值vj的概率;

初始状态概率向量Π，Π=(π1,π2,…,πN),πi表示初始时刻t=1，状态为qi的概率。

一个隐马尔可夫模型可由λ=(A, B, Π)来指代。

3 隐马尔可夫模型的三个基本问题(1) 给定模型λ=(A, B, Π)，计算其产生观测序列O={o1,o2,…,oT}的概率P(O|λ)；

计算掷出点数163527的概率

(2) 给定模型λ=(A, B, Π)和观测序列O={o1,o2,…,oT}，推断能够最大概率产生此观测序列的状态序列I={i1,i2,…,iT}，即使P(I|O)最大的I；

推断掷出点数163527的骰子种类

(3) 给定观测序列O={o1,o2,…,oT}，估计模型λ=(A, B, Π)的参数，使P(O|λ)最大；

已知骰子有几种，不知道骰子的种类，根据多次掷出骰子的结果，反推出骰子的种类

这三个基本问题在现实应用中非常重要，例如根据观测序列O={o1,o2,…,oT-1,}推测当前时刻最有可能出现的观测值OT，这就转换成基本问题(1)；

在语音识别中，观测值为语音信号，隐藏状态为文字，根据观测信号推断最有可能的状态序列，即基本问题(2)；

在大多数应用中，人工指定参数模型已变得越来越不可行，如何根据训练样本学得最优参数模型，就是基本问题(3)。

4 三个基本问题的解法

基于两个条件独立假设，隐马尔可夫模型的这三个基本问题均能被高效求解。

4.1 基本问题(1)解法

4.1.1 直接计算法(概念上可行，计算上不可行)

通过列举所有可能的长度为T的状态序列I=(i1,i2,…,iT)，求各个状态序列I与观测序列O同时出现的联合概率P(I,O|λ)，然后对所有可能求和得到P(O|λ)。

状态序列I=(i1,i2,…,iT)的概率是P(I|λ)=π1a12