- 说明:学习笔记,内容来自周志华的‘机器学习’书籍和加号的‘七月在线’视频。
隐马尔可夫模型
隐马尔可夫模型(Hidden Markov Model,简称HMM)是结构最简单的动态贝叶斯网,这是一种著名的有向图模型,主要用于时序数据建模,在语音识别、自然语言处理等领域有广泛应用。——周志华《机器学习》
1.隐马尔可夫模型的结构信息:
隐马尔可夫模型中的变量可以分为两组,第一组是状态变量{
y1,y2,...,yn y 1 , y 2 , . . . , y n },,其中 yi∈y y i ∈ y 表示第 i i 时刻的系统状态,通常假定状态变量是隐藏的、不可被观测的,因此状态变量也被称为隐变量。第二组是观测变量{
},其中 xi∈x x i ∈ x 表示第 i i 时刻的观测值,如下图所示:
模型的图结构看起来有点类似于我们熟知的RNN模型。图中的箭头表示变量之间的依赖关系。在任意时刻,观测变量的取值仅依赖于状态变量,与其他状态变量和观测变量的取值无关。同时,
时刻的状态仅依赖于 t−1