《统计学习方法》笔记（十四）--HMM（1）

定性：是一种生成模型，用于对隐变量进行标注等问题。

隐马尔可夫模型：由一个隐藏的马尔科夫链随机生成不可观测的状态随机序列，再由各个状态生成一个观测而产生观测随机序列的过程。

模型由初始状态，状态转移矩阵，观测概率矩阵（又叫混淆矩阵）三部分组成。

基于两个假设：齐次马尔科夫性（任意时刻状态只与前一个时刻状态有关），观测独立性假设（任意时刻的观测只与当前时刻状态有关）

HMM的三个基本问题：概率计算问题，学习问题，预测问题（解码问题）

 

1.概率计算问题：已知模型与观测序列，求取该观测序列发生的概率

前向算法：a.计算初始状态；b.递推的求出每一条路径的概率；c.把所有路径概率的和。

后向算法：a.规定T时刻所有状态为1，（？）；b.根据t+1时刻的状态退出ts时刻的状态；c.求和。

二者区别与联系：前向概率是从第一个状态向第T个状态递推，后向算法是从第T个状态向第一个状态递推；

二者的组合就是观测序列的统一形式。

 

2.学习问题：已知观测序列，估计模型参数（待续）

监督学习：

非监督学习

3.预测问题：已知模型与观测序列，估计状态序列（待续）

近似算法：

维特比算法：