概率图模型(03): 模板模型(动态贝叶斯, 隐马尔可夫和Plate模型)

模板模型(DBNs, HMMs 和 Plate Model)——基于时序或对象关系的建模

---

　　本博客中 PGM 系列笔记以 Stanford 教授 Daphne Koller 的公开课 Probabilistic Graphical Model 为主线，并参阅 Koller 著作及其 翻译版对笔记加以补充。博文的章节编号与课程视频编号一致。
　　 博文持续更新（点击这里见系列笔记目录页），文中提到的资源以及更多见 PGM 资源分享和课程简介。

1. Overview of Template Models

　　模版模型（Template Models），编码了具有重复结构和共享参数的模型。它是对图模型更加紧凑的描述方式，可以应用于无限大的贝叶斯网络，主要包括模板变量（Template Variables）和语言（Language）。模版变量是图模型中多次被实例化的变量（is instantiated / duplicated multiple times），例如多个学生的智商、多门课程的难度。模版模型语言描述了模版变量如何从模版中继承依赖关系。典型的 Template Models 可以描述两种类型的模型：

　　1）时序过程上的重复（Temporal Models）: 动态贝叶斯模型（DBN）、隐马尔科夫模型（HMM）
　　2）对象关系上的重复（Plate Models）: 有向或无向

　　那么接下来，首先看看为什么引入 Template Models？

1.1 模板模型的引入

　　我们之前介绍的例子都可以看做是“variable-based”的，那么什么是 variable-based1？

1.1.1 基于变量的模型

　　概率图模型（贝叶斯网 or 马尔可夫网）描述的是一个固定集合上随机变量的联合分布（a joint distribution over a fixed set $\mathcal X$ of random variables），例如一个基于几个科目成绩来衡量一个学生表现优异程度的体系，一个基于病人的各种症状进行判断疾病类型的医疗诊断。
　　我们看到，这两个例子中，一个概率图可以应用于不同的 case 中，这些 case 有着相同的结构（share the same general structure），即一组相同的固定变量，比如“几个科目成绩”和“各种症状”。构建模型的区别只是在于不同的 case 中变量的取值不同（share the same general structure）。比如用于不同的学生课业成绩不同，不同病人症状不同。所以决定两个模型（参数）的不同的是每个 case 中变量的值（ the focus of the representation is a set of random variables），故称为”variable-based”.

1.1.2 无法基于变量建模例子

　　但某些问题无法确定一些固定的变量用于构建模型（relates to a much more complex space than can be encoded as a fixed set of variables ），比如当我们想要表示一个系统基于时间序列的概率分布（distributions over systems whose state changes over time）时。举两个两个例子

1）当我们监护重症病人时，我们希望定期获得自传感器采集的数据（sensor readings）——心率、血压和EKC，并且希望随时掌握患者状态（track the patient’s state over time）。
2）我们希望追踪一个在现实世界中移动且收集观察结果的机器人的位置，我们希望得到一个可应用于不同轨迹（different trajectories）的模型。

　　上图中谈到的例子的共性在于

我们希望构建一个单一且紧凑（single and compact）的模型，为相同类型的一整类分布提供模版（template）: 不同长度的运动轨迹，或者不同的谱系（trajectories or different pedigrees ）。

　　为了克服现实世界中很多不确定问题，比如变量太多，变量之间关联过多，扁平化CPD表示方法不适用等 ，我们引入“Template-based”的模型，编码具有重复结构和共享参数的模型。

1.2 模板模型的简述

1.2.１ 模板模型例子2

  以下加粗的各变量都称为模板变量，蓝色表示某个模板变量的实例化。板变量在模型中多次被实例化。所谓实例化，比如例 (4) 中机器人的位置记作 Location 变量，那么它在时刻 $t$ 的取值 Location(t) 就是该变量在时刻 $t$ 的一个实例化。

• Plate Modeling

  (1) 在家族基因遗传中，一个人的表现型（Phenotype）都依赖于这个人的基因型，而其基因型（Genotype）又依赖于其父母的基因型。
　　(2) 在图像分割中，每一个超级像素与该其所在分类之间存在一种联系，这种联系需要基于周围的超级像素来建模。
　　(3) 在学生示例中，对于一个学生某门课程成绩分别依赖于该学生的智力以及所选课程的难度。

• Temporal Modeling

  (4) 动态机器人位置识别中，每一个时间点的位置依赖于之前的位置以及当前控制信号，并决定感应器观察的结果。

1.2.２ 两种模板模型

　　模板模型可以用紧凑的方式描述两种类型的情况：
　　1）时序过程上的重复（Temporal Models）: 动态贝叶斯模型（DBN）、隐马尔科夫模型（HMM）;
　　2）对象关系上的重复（Plate Models）: 有向或无向。

The first is temporal modeling, where the language of dynamic Bayesian networks allows us to construct a single compact model that captures the properties of the system dynamics, and to produce distributions over different trajectories.

The second, plate modeling, involves domains such as the Genetics example, where we have multiple objects that are somehow related to each other. Here, various languages have been proposed that allow us to produce distributions over different worlds, each with its own set of individuals and set of relations between them.

2. 动态贝叶斯网 ( 时序模型 )

　　这部分讨论时序模型中的动态贝叶斯网络模型（Temporal Models - DBNs）。

2.1 时序模型

  时序模型关注动态环境，根据系统状态建模（System State）。

2.1.1 模板变量与其实例化

• 模板变量 ( Template Variable ): 是描述系统状态的变量，会被反复实例化；
• 实例化（Instantiation）: 变量 $X_i$ 的实例化（Instantiation）指其在特定时刻的取值 $X^{(t)}_i$.

  假设系统状态可用某个随机变量集合 $\cal X$ 中变量的赋值来表示。令变量 $X_i$ 在时刻 $t$ 的取值 $X^{(t)}_i$ 为其在时刻 $t$ 的实例化（Instantiation）。注意 $X_i$ 本身不再是某个值的变量，而是一个模板变量 ( Template Variable )。这些模板变量在不同的时刻 $t$ 被实例化，并且每个 $X^{(t)}_i$ 是 $Val(X_i)$ 中取值的一个随机变量。对变量集 $X\subseteq \mathcal X$，用 $X^{t1:t2}(t1<t2)$ 表示变量集合 $\{X^t: t∈[t_1,t_2]\}$。通常用 $x^{(t:t′)}$ 表示对这个变量集合的值的一个赋值。

2.1.2 与轨迹

• 轨迹（Trajectory）: 表示系统状态的变量集 $X$ 在时间 $t$ 上的投影。

每一个“可能的世界”在概率空间成为一条轨迹即 $X^{(t:t')}=\{X^{(t)},...,X^{(t')},\}$，我们关心的问题是：如何在这条轨迹上表示联合分布（distributions over trajectories）概率 $P(X^{(t:t')})$?

  为了所有可能轨迹组成复杂概率空间上描述分布，我们需要引入一些简化假设。

2.2 基本假设

2.2.1 时间片段化

• 时间片段：将时间轴离散化为一组时间片段（time slice），系统状态在间隔（time granularity）为 $\Delta$ 的规则区间上测定。

  该假设将定义在连续随机变量上的分布问题，简化为在离散区间上采样的可数个随机变量上定义的分布问题。即有系统状态在时间 $t=0,...,T$ 上轨迹的联合分布概率为

式 (1) :