概率图模型是一类用图来表达变量相关关系的概率模型。它以图为表示工具,最常见的是用一个节点表示一个或一组随机变量,节点之间的边表示变量间的概率相关关系,即“变量关系图”。根据边的性质不同,概率图模型可大致分为两类:第一类是使用有向无环图表示变量间的依赖关系,称为有向图模型或贝叶斯网。第二类是使用无向图表示变量间的依赖关系,称为无向图模型或马尔科夫网。
隐马尔科夫模型(Hidden Markov Model,HMM)是结构最简单的动态贝叶斯网,这是一种著名的有向图模型,主要用于时序数据建模,在语音识别、自然语言处理等领域有广泛应用。
如上图所示,隐马尔可夫模型中的变量可分为两组。
第一组是状态变量{y1 ,y2, … , yn},其中yi表示第i时刻的系统状态,通常嘉定状态变量是隐藏的,不可被观测的,因此状态变量也称作隐变量。
第一组是状态变量{x1 ,x2, … , xn},其中xi表示第i时刻的观测值。在隐马尔科夫模型中,系统通常在多个状态{s1 ,s2, … , sN}之间转换,因此状态变量yi的取值范围通常是有N个可能取值的离散空间。观测变量xi 可以是离散型也可以是连续型。
上图的箭