浅谈概率图模型（一）：有向图模型

1.Introduction

1.1 Chain rule

• 通过概率中的链式法则，我们可以很好的表示一个联合概率分布（joint distribution）,并且可以使用不同的变量顺序。
  ( 公式说明：V表示变量的个数，1:V表示集合{1,2,…,V}。为简明起见，我们去掉了对固定参数θ的条件)
  $$p(x_{1:V})=p(x_1)p(x_2|x_1)p(x_3|x_2,x_1)...p(x_V|x_{1:V-1})$$
• 链式法则存在什么问题呢？当变量变得很多，并且变量的维度很高时，计算这些条件概率或者联合概率会变得非常复杂(假设x1,x2为两个离散变量，都有K个状态，则P(x1|x2)就会有K**2个状态)
• 一种解决方案就是：用更简约的条件概率分布(Conditional Probability Distributions),当然这并不使用所有场合，更通俗的来说，它不实用，所以我们需要另一种方法。

1.2 Conditional independence

• 有效地表示大型联合分布的关键是对条件独立性(CI)做出一些假设。

• 我们说 X⊥Y| Z当且仅当条件联合可以写成条件边缘的乘积，即
  $$X\perp Y|Z\iff p(X,Y|Z)=p(X|Z)p(Y|Z)$$

• 让我们看看条件独立为什么如此有用？
  假设现在的状态是已观测的，未来是独立于过去的，即下面的公式。这被称作一阶马尔科夫假设(First-order Markov Assumption)
  $$x_{t+1}\perp x_{1:t-1}|x_t$$

• 当我们运用这一假设到链式法则中时，我们就可以将联合概率写成如下形式：

$$p(x_{1:V})=p(x_1)\prod _{t=1}^{V}p(x_t|x_{t-1})$$

• 可以看到通过这种假设，我们就大大化简了联合概率的形式。上面的这种模型我们成为一阶马尔科夫链(First-order Markov Chain)

1.3 Graphical Models

• Why Graphical Models?
  虽然一阶马尔可夫假设对于定义一维序列上的分布是非常有用的，但是我们如何定义二维图像或3D视频上的分布，或者一般而言，任意变量集合上的分布，这时候图模型就自然而然就来了，它来了！
• How we define GM(Graphical Model)?
  通过条件独立假设(CI)来表示联合概率的一种方法，其中节点表示随机变量，边表示条件概率(在有向图中，可以理解为因果的关系)
• 这篇文章只考虑有向图模型(Directed Graphical Models,DGM)

1.4 Directed graphical models（Bayes Net）

• 一些说法
  贝叶斯网络 = 有向图模型 = 信念网络(Belief Networks) = 因果网络(Causal Networks)
• 有序马尔科夫性质(Ordered Markov Property)
  我们定义马尔科夫性质为这样的假设：一个节点仅依赖于它的直接父类，并不依赖于所有先辈(Predecessors),即

$$x_s\perp x_{pred(s)\backslash pa(s)}|x_{pa(s)}$$

    其中，pa(s)是s的父节点，pred(s)是s的所有先辈。这是一阶马尔科夫链的推广。

• 通过马尔科夫性质，我们以可重新写出联合概率分布，即：

$$p(x_{1:V}|G)=\prod _{t=1}^{V}p(x_t|x_{pa(t)})$$

通过这种条件独立假设，我们大大简化了计算量，减少了很多参数(对比原来的联合概率分布 就知道，这里不做证明)

2. An example of DGM: Naive Bayes

2.1 Naive Bayes

• 朴素贝叶斯用来做多分类任务
• 朴素贝叶斯假设当给定观测标签Y时，特征之间是相互独立的，这在现实中很难做到，因为假设太强了，所以称之为“幼稚的”。
• 朴素贝叶斯是生成没模型，我们可以根据假设写下联合概率分布，即：

$$p(y,x)=p(y)\prod _{j=1}^{D}p(x_j|y)$$

2.2 Naive Bayes in DGM

• 当我们用有向图模型来表示这种联合概率时(假设有4个特征)，如下：
  

3. Inference

3.1 What can we do with such a joint distribution?

• 我们已经看到，图形模型提供了一种定义更加紧凑的联合概率方式，那我们可以用这个联合概率来做什么，这个是我们要关注的。

3.2 Probabilistic Inference

• 最主要的作用就是要做概率推断
• 一般的，我们说推理问题是这样的：假设我们有一些随机变量即他们的联合概率分布，并且有参数(在推断过程中，我们一般假设参数θ是已知的)。我们把随机变量组成的向量分割为可观测变量Xv(visible variables)和隐变量Xh(hidden variables),则推断指的就是计算隐变量的后验概率，即
  
• 顺便提一点，在有些时候我们可能只关注隐变量中的一部分，这时候我们可以将隐变量再分为我们感兴趣的变量Xq(query variables)和我们不感兴趣的变量Xn(nuisance variables),我们可以通过边缘化Xn来计算Xq，即：

$$p(x_q|x_v,\theta )=\sum _{x_n}p(x_q,x_n|x_v,\theta )$$

4. Learning

4.1 The difference between inference and learning

• Inference：计算隐变量得后验，假设参数θ是已知的。
• Learning：在给定Data情况下，通过极大后验概率估计(Maximum A Posteriori Estimation)来求解参数θ,即：
  
• 特别的，当θ的先验分布为均匀分布(uniform distribution),则MAP退化为MLE

4.2 The relationship between inference and learning

• 再贝叶斯学派中，万物皆概率，参数要被看成是未知的变量。因此从贝叶斯角度去看，inference和learning没有区别
• 因此，我们也可以将参数θ加入图模型中，然后推理出所有节点的值

4.3 Plate notation

• 当我们考虑数据中的参数时，我们经常假设样本独立同分布(iid)，我们把独立同分布描述再图模型中可以这样表示，即：
  
  其中，左边很明显，注意，这里的参数θ不在是常量而是一个变量，右边被成为“盘子”的表示法，一看就懂，不说了。

4.4 Learning from complete data

• 如果所有数据均被观测，即没有隐变量，我们说这样的数据为完备数据(complete data)，这时对于整个数据集的似然函数为：
  
• 现在我们假设先验概率p(θ)也可以进行因子分解，即：
  
• 则我们可以把后验写出来，即：
  

4.5 Learning with missing and/or latent variables

• EM算法你懂的

5. Conditional independence properties of DGMs（three properties）

5.1 D-separation（Global Markov Properties）

• 首先介绍三种贝叶斯网络的形式：
  ①tail-to-tail:
  当c未观测时，a和b不独立；
  当c被观测时，a和b独立.
  
  ②head-to-tail:
  当c未观测时，a和b不独立；
  当c被观测时，a和b独立.
  
  ③head-to-head:
  当c未观测时，a和b独立；
  当c被观测时，a和b不独立.

• D-separation（全局马尔科夫性质）
  ①D-separation是一种用来判断变量是否条件独立的图形化方法
  ②考虑一个一般的有向图，其中A,B,C是任意无交集的节点集合，我们希望弄清楚一个DAG是否暗示了一个特定的条件依赖来表述A⊥B|C。现在考虑从A这种任意节点到B中任意节点的所有路径（假设C被观测到，接③）
  ③我们说这样的路径被阻隔(Blocked)，满足下面其一即可:
  (1)A和B的 “head-to-tail” 和 “tail-to-tail”路径 都通过C
  (2)A和B的 “head-to-head”不通过C及C的子孙
  ④若所有的路径均被阻隔，则有A⊥B|C.

5.2 Directed Local Markov Property

• 通过上述的D-separation，我们可以总结出一个公式：

$$t\perp nd(t)\backslash pa(t)|pa(t)$$
t ：任意节点
nd(t)：non-descendant-除了它自己和自己的子孙的剩下所有节点
pa(t)：t的父节点
描述为：给定某节点t的父节点，则该节点独立于他的祖先(不包括父节点)和与该节点没有关系的节点。

• 举个栗子：nd(3)={2,4},pa(3)=1,所以3⊥2，4|1
  

5.3 Ordered Markov Property

• 这是5.2性质的一个特例，我们来看一下，因为我们只看了节点t的先辈，很明显我们有这样的关系：pred(t)是nd(t)的子集
  $$t\perp pred(t)\backslash pa(t)|pa(t)$$
• 举个栗子：pred(3)={1,2},pa(3)=1,则有3⊥2|1
  

5.4 The relationships among these properties

• 等价的，谁都可以推出谁！
• 另外别忘了有向图模型的一个很重要的性质：因子分解性质

5.5 Markov blanket in DGM

• 存在这样的节点集mb(t)：使节点t独立于所有其他节点，则mb(t)节点集被称为节点t的马尔可夫毯子(Markov Blanket)
• 可以证明，一个节点的马尔可夫毯子等于其父亲节点、儿子节点、儿子节点的其他父亲(Co-parents)，即

$$mb(t)\triangleq ch(t)\cup pa(t)\cup copa(t)$$

• 举个栗子：

m b ( 5 ) = { 6 , 7 } ∪ { 2 , 3 } ∪ { 4 } = { 2 , 3 , 4 , 6 , 7 } mb(5) = \{ 6,7\} \cup \{ 2,3\} \cup \{ 4\} = \{ 2,3,4,6,7\} mb(5)={6,7}∪{2,3}∪{4}={2,3,4,6,7}

6. Decision

• 这里不做说明了，就是将推断学习到的东西做出一些决策，例如朴素贝叶斯中判断样本属于哪一类.

参考文献

《Machine Learning - A Probabilistic Perspective》