隐马尔可夫模型总结

1.1 隐马尔可夫模型的基本概念

定义：
隐马尔可夫模型是一个关于时序的概率模型。
描述由一个隐藏的马尔科夫链随机生成不可观测的状态随机序列，再由各个状态随机序列生成一个观测从而产生观测随机序列的过程。
隐藏的马尔科夫链随机生成的状态的序列，成为状态序列；
每个状态生成一个观测，由此产生的观测的随机序列称为观测序列；
序列的每一个位置又可以看做是一个时刻；
隐马尔可夫模型广泛用于语音识别、自然语言处理、生物信息、模式识别等领域；属于生成模型；

1.2 隐马尔可夫模型可以归结

一个模型，两个假设，三个问题

1.2.1 一个模型

初始状态概率向$\pi$、状态转移概率矩阵$A$和观测概率矩阵$B$决定。因此，隐马尔可夫模型可以写成$\lambda =(A,B,\pi )$

1.2.2 两个假设：

齐次马尔科夫假设：假设隐藏的马尔可夫链在任意时刻t的状态只有依赖于其前一时刻的状态，与其他时刻的状态及观测无关，也与时间t无关：

观测独立性假设： 假设任意时刻的观测只依赖于该时刻的马尔可夫链的状态，与其他观测及状态无关

1.2.3 三个问题：

1. 概率计算问题

给定模型$\lambda =(A,B,\pi )$和观测序列$O＝(o_1，o_2,\dots ,o_T)$，计算在模型$\lambda$下观测序列$O$出现的概率$P(O|\lambda )$。前向-后向算法是通过递推地计算前向-后向概率可以高效地进行隐马尔可夫模型的概率计算。

2 .学习问题

已知观测序列$O＝(o_1，o_2,\dots ,o_T)$，估计模型$\lambda =(A,B,\pi )$参数，使得在该模型下观测序列概率$P(O|\lambda )$最大。即用极大似然估计的方法估计参数。Baum-Welch算法，也就是EM算法

3 .预测问题

已知模型$\lambda =(A,B,\pi )$和观测序列$O＝(o_1，o_2,\dots ,o_T)$，求对给定观测序列条件概率$P(I|O)$最大的状态序列$I＝(i_1，i_2,\dots ,i_T)$。维特比算法应用动态规划高效地求解最优路径，即概率最大的状态序列。

2.算法笔记推导

2.1 概率计算问题

前向算法

后向算法完整推导

2.2 学习问题

2.3 预测问题