读论文遇到HMM模型,记录一些学习笔记。
HMM适合描述有时变序列和隐藏(不可观察)行为的场景。
5个基本元素
HMM五元组 λ =( S, O , π ,A,B)
S:状态值集合,O:观察序列集合,π:初始化概率,A:状态转移概率矩阵,B:给定状态下,观察序列概率矩阵
2个假设
(1)齐次马尔可夫假设(针对隐藏状态)
任意时刻t的状态只依赖于前一时刻t-1的状态,与任何其他状态和观测都无关。
(2)观测独立性假设(针对观测序列)
任意时刻的观测只依赖于该时刻的隐藏的状态,与其他任何时刻观测和状态都无关。
3个问题
1:评估问题,已知模型参数 λ= (A, B, π),计算某个观测序列发生的概率,即求P(O|λ)。根据这个概率,来评估模型的好坏。
2:解码问题,给出观测序列O和模型λ= (A, B, π),选择一个状态序列S(s1,s2,…st+1),能最好的解释观测序列O。
3:学习问题,观测序列O,如何估计模型参数 λ=(π, A, B), 使得P(O|λ)最大。 利用极大似然估计。 一般这个达到局部最大值。这个比较常见,用来建立模型。