构成无向简单图的度数序列条件_从概率图模型到seq解码

1. 概率图模型

混淆点：

• 隐马尔可夫模型 vs 马尔科夫随机场

1.1 有向图 vs 无向图

1.1.1 有向图

有向图中的边（箭头），表达了节点之间的依赖关系，决定了节点之间的独立性。这种依赖关系决定了有向图的分解方式：

1.1.2 无向图

与有向图使用依赖关系计算联合概率不同，无向图使用最大团的因子分解来计算联合概率。

（至于为什么使用团或者最大团来分解，请看下文马尔科夫随机场部分）

其中

称为势函数，

的计算需要考虑：

• 节点的贡献
• 边的贡献
• 结果转化为概率

1.2 隐马尔科夫模型

1.2.1 HMM的特点

直接看隐HMM的图结构：

从图上来看，HMM解决的是时序变化的问题，其特点是：

1. 图的初始节点为y1
2. 每个状态只由其前一个状态决定：yi 向 yi+1转移
3. 每个状态会产生一个观测值：yi 产生 xi

1.2.3 HMM的分解

根据有向图依赖关系的建模规则，可得到HMM的联合概率分布为：

1.2.4 HMM的参数

根据图结构以及分解关系，完整描述一个HMM需要五个参数：

1. 隐状态集S， 观测变量集O
2. 初始节点y1的概率
3. 状态转移矩阵A