机器学习-白板推导系列(九)-概率图模型之表示（Probability Graph）

9. 概率图模型

9.1 背景介绍

9.1.1 概述

1. 什么是概率图
   • 机器学习的重要思想就是，对已有的数据进行分析，然后对未知数据来进行预判或者预测等。概率图是将$概率的特征引入到图中$，方便进行直观分析，即：$有图有真相$。

     • $概率$：指概率模型，在机器学习中是对新的数据进行一些预测，对已知数据做聚类等。总的来说，就是对已有数据做一些操作，来预测未来。
     • $图$：与数据结构的图一样，有无向图、有向图等。与数据结构不同的是，将概率嵌入图中，使得模型更加直观，可以将概率模型的特征明显表示出来。

   • 由于现实世界的复杂性，数据通常都是多维的，因此以下用高维随机变量来讨论。
2. 高维随机变量性质
   • 假设有一组高维随机变量，$p(x_1,x_2,\cdots ,x_n)$，它有两个基本的概率定义：条件概率和边缘概率。条件概率的描述为$p(x_i)$，条件概率的描述为$p(x_j|x_i)$。根据这两个基本的概率，可得基本的运算法则：则：
     • Sum Rule:$$p(x_1)=\int p(x_1,x_2)\mathrm{d}{x}_2.\text{\hspace{1em}(9.1.1)}$$
     • Product Rule:$$p(x_1,x_2)=p(x_1|x_2)p(x_2).\text{\hspace{1em}(9.1.2)}$$
     • Chain Rule:$$p(x_1,x_2,\cdots ,x_p)=\prod _{i=1}^{p}p(x_i|x_{i+1},x_{i+2},\cdots ,x_p).\text{\hspace{1em}(9.1.3)}$$
     • Bayesian Rule:$$P(x_2|x_1)=\frac{P(x_1,x_2)}{P(x_1)}=\frac{P(x_1,x_2)}{\int P(x_1,x_2)\mathrm{d}{x}_2}=\frac{P(x_2)P(x_1|x_2)}{\int P(x_2)P(x_1|x_2)\mathrm{d}{x}_2}.\text{\hspace{1em}(9.1.4)}$$
   • 高维随机变量困境：维度高，计算复杂，联合概率使用链式法则计算量太大。

     当维度较高时，$p(x_1,x_2,\cdots ,x_N)={\prod }_{i=1}^{N}p(x_i|x_1,x_2,\cdots ,x_{i-1})$会算炸，因此需要简化运算。

9.1.2 简化模型和算法分类

1. 由于高位随机变量计算复杂度高，需要简化运算，介绍简化思路：
   • 相互独立的假设
     $$P(x_1,x_2,\cdots ,x_p)=\prod _{i=1}^{p}P(x_i).\text{\hspace{1em}(9.1.5)}$$
     也可以称为：朴素贝叶斯中的条件独立性假设（$P(x|y)={\prod }_{i=1}^{p}P(x_i|y)$）；这个假设太强，实际情况中的依赖比这个要复杂的多。所以放弱一点，增加之间的依赖关系。
   • $MarkovProperty$
     马尔可夫性质：对于一个序列 { x 1 , x 2 , ⋯   , x N } \{ x_1,x_2,\cdots,x_N \} {x1​,x2​,⋯,xN​}，第$i$项仅仅只和第$i-1$项之间存在依赖关系。用符号的方法我们可以表示为：
     $$x_j\perp x_{i+1}|x_i,j<i.\text{\hspace{1em}(9.1.6)}$$
     在HMM里面就是齐次Markov假设，但是还是太强了，我们还是要想办法削弱。
   • $条件独立性假设$
     条件独立性假设是概率图的核心概念，可以大大的简化联合概率分布。而用图可以可视化表达条件独立性，用公式可以描述为：
     $$x_A\perp x_B|x_C.\text{\hspace{1em}(9.1.7)}$$
     $x_A、x_B、x_C$是$集合，且不相交$。
2. 概率图算法分类
   概率图的算法大致可以分为三类：表示(Representation)，推断(Inference)和学习(Learning)，如下图：
   $$概率图\{\begin{array}{c}Representation(表示)\{\begin{array}{c}有向图BeyesianNetwork\\ 高斯图（连续）\{\begin{array}{c}GaussianBN\\ GaussianMN\end{array}\\ 无向图MarkovNetwork\end{array}\\ Inference(推断)\{\begin{array}{c}精确推断\\ 近似推断\{\begin{array}{c}确定性近似（变分推断）\\ 随机近似（MCMC）\end{array}\end{array}\\ Learning(学习)\{\begin{array}{c}参数学习\{\begin{array}{c}完备数据\{\begin{array}{c}有向\\ 无向\end{array}\\ 隐变量\to EM\end{array}\\ 结构学习\end{array}\end{array}\text{\hspace{1em}(9.1.8)}$$
   • $表示$的方法可以分为有向图，Bayesian Network；和无向图，Markov Network，这两种图通常用来处理变量离散的情况。对于连续性的变量，我们通常采用高斯图，同时可以衍生出，Gaussian Bayesian Network和Guassian Markov Network。
   • $推断$可以分为精准推断和近似推断。所谓推断就是给定已知求概率分布。近似推断中可以分为确定性推断(变分推断)和随机推断(MCMC)，MCMC是基于蒙特卡罗采样的。
   • $学习$可以分为参数学习和结构学习。在参数学习中，参数可分为完备数据和非隐数据，我们可以采用有向图或者无向图来解决。而隐变量的求解我们需要使用到EM算法（EM算法在后面的章节会详细推导）。而结构学习则是，需要我们知道使用那种图结构更好，比如神经网络中的节点个数，层数等等，也就是现在非常热的Automate Machine Learning。

---

9.2 贝叶斯网络-Representation-条件独立性

9.2.1 概述

1. 回顾
   上一节我们知道高维随机变量的链式法则：
   $$p(x_1,x_2,\cdots ,x_p)=\prod _{i=1}^{p}p(x_i|x_{i+1},x_{i+2},\cdots ,x_p)$$
   由于计算维度太高了，因此引入条件独立性，表达为$X_A\perp X_B|X_C$（$X_A、X_B、X_C$是$集合，且不相交$）。采用$因子分解$的方法我们将联合概率的计算进行分解为：
   p ( x 1 , x 2 , ⋯   , x N ) = ∏ i = 1 N p ( x i ∣ x p a { i } ) . (9.2.1) p(x_1,x_2,\cdots,x_N)=\prod_{i=1}^Np(x_i|x_{pa\{i\}}).\tag{9.2.1} p(x1​,x2​,⋯,xN​)=i=1∏N​p(xi​∣xpa{i}​).(9.2.1)
   其中， p a { i } pa\{i\} pa{i}表示为$x_i$的父亲节点。
2. 拓扑排序
   $因子分解$采用概率图表示条件独立性，直观性强。核心思想：$拓扑排序$。如果存在一个关系由一个节点$x_i$指向另一个节点$x_j$，我们可以记为$p(x_j|x_i)$，如下图所示：
   
   对于一个箭头$⟶$来说，箭头所在的方向称为Head，另一端被称为Tail。构建出概率图以后，我们可以根据图写出因子分解的结果。

9.2.2 概率图的三种基本结构

1. 在局部的任何三个节点，可以有以下三种结构：
   1. Tail to Tail
      
      • 性质：
        这种结构满足：
        $$A\perp C|B\iff 若B被观测，则路径被阻塞，A与C独立。\text{\hspace{1em}(9.2.2)}$$
      • 证明：
        通过因子分解和链式规则可以进行证明：
        $$\begin{gathered} P(A,B,C)=\underset{因子分解}{\underbrace{P(A|B)P(B)P(C|B)}}=\underset{链式法则}{\underbrace{P(B)P(A|B)P(C|A,B)}} \\ \Rightarrow P(C|B)=P(C|A,B) \\ \Rightarrow P(C|B)P(A|B)=P(C|A,B)P(C|B) \\ \Rightarrow P(C|B)P(A|B)=P(A,C|B) \\ \Rightarrow C\perp A|B \end{gathered}$$
        这就是条件独立性，在B已知的条件下，A和C独立。概率图中就已经蕴含这个分解了，只看图就可以看到这个性质，这就是图的直观性，条件独立性和图是一样的。
   2. Head to Head
      
      1. 性质
         这种结构满足：
         $$\begin{gathered} 默认情况下，A\perp C，路径是阻塞的，A与C独立。 \\ \{\begin{array}{c}若B被观测，则路径是通，A与C不独立；\\ 若B仍有后继节点，若后继节点被观测，路径也通。\end{array}\text{\hspace{1em}(9.2.3)} \end{gathered}$$
         $如果B有孩子B^{\ast },B^{\ast \ast }，那么B的孩子依然有B的性质$。
      2. 证明
         通过因子分解和链式规则可以进行证明：
         $$\begin{gathered} P(A,B,C)=\underset{因子分解}{\underbrace{P(A)P(C)P(B|A,C)}}=\underset{链式法则}{\underbrace{P(A)P(C|A)P(B|A,C)}} \\ \Rightarrow P(C)=P(C|A) \\ \Rightarrow A\perp C \end{gathered}$$
   3. Head to Tail
      
      1. 性质
         这种结构满足：
         $$A\perp C|B\iff 若B被观测，则路径被阻塞，A与C独立。\text{\hspace{1em}(9.2.4)}$$
      2. 证明
         通过因子分解和链式规则可以进行证明：
         $$\begin{gathered} P(A,B,C)=\underset{因子分解}{\underbrace{P(A)P(B|A)P(C|B)}}=\underset{链式法则}{\underbrace{P(A)P(B|A)P(C|B,A)}} \\ \Rightarrow P(C|B)=P(C|B,A) \\ \Rightarrow P(C|B)P(A|B)=P(C|A,B)P(A|B) \\ \Rightarrow P(C|B)P(A|B)=P(C,A|B) \\ \Rightarrow C\perp A|B \end{gathered}$$

---

9.3 贝叶斯网络-Representation-D-Seperation

在概率图中，我们用：

1. p ( x 1 , x 2 , ⋯   , x N ) = ∏ i = 1 N p ( x i ∣ x p a { i } ) p(x_1,x_2,\cdots,x_N)=\prod_{i=1}^Np(x_i|x_{pa\{i\}}) p(x1​,x2​,⋯,xN​)=∏i=1N​p(xi​∣xpa{i}​)
2. $p(x_1,x_2,\cdots ,x_N)=p(x_i){\prod }_{i=1}^{N}p(x_i|x_{1:i-1})$
   这两种表达形式是等价的。式子2是最完备的表达方法，式子1是表达是简化版本，他蕴含了概率图中得到的条件独立性关系简化的结果。我们通过D-Separation和Markov Blanket对上面两式子进行更深层次的理解：
   • D-Separation是在概率图中，帮助我们快速的判断条件独立性。
   • 对于一个节点，它和哪些节点相关，它和和父亲，孩子，孩子的另一个双亲这三种节点相关，这三种点的集合就是Markov Blanket。

9.3.1 D-separation

有三个集合$X_A,X_B,X_C$，并且满足$X_A\perp X_C|X_B$。有一些节点连成的拓扑关系图，其中的节点$a\in X_A,c\in X_C$，想要$a$和$c$之间相互独立，他们之间连接的节点需要满足什么样的条件才能满足D-Seperation？

假如从$a$到$c$中间通过一个节点$b$，那么路径什么时候是连通的？什么时候又是阻塞的呢？

1. $HeadtoTail$
   如图中绿色所示，$a$到$c$中间的节点$b_1$，那么$b_1$必须被观测到（$b_1\in X_B$），$a$与$c$之间才能独立。
2. $TailtoTail$
   如图中红色所示，$a$到$c$中间的节点$b_2$，那么$b_2$必须被观测到（$b_2\in X_B$），$a$与$c$之间才能独立。
3. $HeadtoHead$
   如图中黑色所示，$a$到$c$中间的节点$b^{\ast }$(以及$b$的孩子$b^{\ast },b^{\ast \ast }$) ，那么$b^{\ast }$及其孩子必须不被观测到（$b^{\ast },b^{\ast },b^{\ast \ast }\notin X_B$），$a$与$c$之间才能独立。

符合上述3条规则，那么我们就可以称$a$和$c$之间是D-Separation的，也叫做全局马尔科夫性质 (Global Markov Property)。D-Separation非常的关键，我们可以直接用这个性质来检测两个集合关于另外一个集合被观测的条件是不是条件独立。

9.3.2 马尔可夫毯(Markov Blanket)

1. 定义
   在随机变量的全集$U$中，对于给定的变量$X\in U$和变量集$MB\subset U(X\notin MB)$，若有
   X ⊥ { U − M B − { X } } ∣ M B (9.3.1) \color{red}X\perp \{U-MB-\{X\}\}|MB\tag{9.3.1} X⊥{U−MB−{X}}∣MB(9.3.1)
   则称能满足上述条件的$最小变量集MB$为$X$的马尔可夫毯(Markov Blanket)。

   解释：

   1. 形象一点：把一个随机变量全集$U$分成互斥的三部分，变量$X$以及集合$A$和$B$，三个子集没有交集，并集即为全集$U$；如果说给定集合$A$时，变量$X$与集合$B$没有任何关系，则称集合$A$为变量$X$的马尔可夫毯。在式(9.3.1)中，集合$MB$即为我说的集合$A$， { U − M B − { X } } \{U-MB-\{X\}\} {U−MB−{X}}即为我说的集合$B$，符号“$\perp$”表示“独立”，符号“$|$”表示在给定xx条件下，因此式(9.3.1)可读为“在给定集合$MB$时，变量$X$与 { U − M B − { X } } \{U-MB-\{X\}\} {U−MB−{X}}独立”。
   2. 具体举例理解：全集U是整个社会，X是你个人，MB就是你生活圈子里的人。按照哲学的说法，万事万物都是有联系的；但是，你并不会与社会里的所有人有什么关系，而是通过你的生活圈子和他们有间接的关系，即当给定你的生活圈子以后，你和社会其余的人是没啥关系的（独立的）。

2. 概率推导
   首先定义$x_{-i}$为 { x 1 , x 2 , ⋯   , x i − 1 , x i + 1 , ⋯   , x N } \{x_1,x_2,\cdots,x_{i-1},x_{i+1},\cdots,x_N\} {x1​,x2​,⋯,xi−1​,xi+1​,⋯,xN​}，这个序列中唯独不包括$x_i$。那么，假设除了$x_i$节点，其他节点都是可观测的，那么计算概率：
   $$p(x_i|x_{-i})=\frac{p(x_i,x_{-i})}{p(x_{-i})}=\frac{p(x)}{{\int }_{x_i}p(x)d{x}_i}=\frac{{\prod }_{j=1}^{N}p(x_j|x_{pa(j)})}{{\int }_{x_i}{\prod }_{j=1}^{N}p(x_j|x_{pa(j)})d{x}_i}.\text{\hspace{1em}(9.3.2)}$$

   分析一下上述等式，可以将其分成两部分，将和$x_i$相关的部分记为$\bar{\Delta }$，和$x_i$不相关的部分记为$\Delta$。公式(9.3.2)可以改写为：
   $$p(x_i|x_{-i})=\frac{\Delta \cdot \bar{\Delta }}{{\int }_{x_i}\Delta \cdot \bar{\Delta }d{x}_i}=\frac{\Delta \cdot \bar{\Delta }}{\Delta \cdot {\int }_{x_i}\bar{\Delta }d{x}_i}==\frac{\bar{\Delta }}{{\int }_{x_i}\bar{\Delta }d{x}_i}.\text{\hspace{1em}(9.3.3)}$$
   就将$p(x_i|x_{-i})$表示为一个函数$f(\bar{\Delta })$。$x_i和其他所有点的关系化简为只和x_i相关的点的关系$。将这个关系大致抽象出来，通过图来进行分析，找一找哪些节点是和$x_i$相关的，直观性也是概率图模型的一大优点。假设$x_i$是可以被观测到的
   
   $P(x_i|x_{-1})$首先包括一部分为$p(x_i|x_{pa(i)})$，第二部分为$p(x_{child(i)}|x_i,x_{pa(child(x_i))})$。如图画阴影部分所示。

   为什么第二部分可以这样写呢？
   首先$x_i$作为两个父亲节点，得到两个孩子节点，毫无疑问对吧，那么我们可以写成$p(x_{child(i)}|x_i)$。但是和$p(x_{child(i)})$相关的变量除了$x_i$肯定还有其他的，也就是$x_{pa(child(x_i))}$，所以我们就可以得到$p(x_{child(i)}|x_i,x_{pa(child(x_i))})$。

3. 举例
   在可信的贝叶斯网络中、一个结点的马尔可夫毯即为该结点的父节点、子节点以及子节点的父节点。在如图， M B ( T ) = { X 1 , X 2 , X 6 , X 7 , X 8 } MB(T)=\{X1 ,X2 ,X6 ,X7,X8\} MB(T)={X1,X2,X6,X7,X8}。
   

---

9.4 贝叶斯网络-Representation-具体模型例子

由于概率图是一个非常大的领域，不能一一详细的讲解每一个例子，所以从大的方面介绍一下贝叶斯网络的表示、推断和学习等模型通用的东西。本节介绍贝叶斯网络都有哪些类别及模型，进行一个简单的总结。

1. 单一
   单一最典型的代表就是Naive Bayesian，这是一种classification的模型。对于$p(x|y=1)$的问题来说，假设各维度之间相互独立，于是就有：
   $$p(x|y=1)=\prod _{i=1}^{N}p(x_i|y=1).\text{\hspace{1em}(9.4.1)}$$
   概率图模型表示如下所示：
   
   很显然是一个Tail to Tail的模型，我们很简单可以得出$x_1\perp x_2\perp \cdots \perp x_N$。

2. 混合
   最常见的是Gaussian Mixture Model (GMM)，这是一种聚类模型，将每个类别拟合一个分布，计算数据点和分布之间的关系来确定，数据点所属的类别。假设$Z$是一个隐变量，并且$Z$是离散的变量，那么$x|z\sim \mathcal{N}(\mu ,\Sigma )$。我们用模型可以表示为：
   

3. 时间

   • 时间上我们大致可以分成两种。第一种是Markov chain，这是随机过程中的一种；第二种事Gaussian Processing，实际上就是无限维的高斯分布。
   • 实际上时间和混合可以一起看，我们称之为动态系统模型。并且，我们就可以衍生出三种常见的模型，这里讲的比较的模糊，在后面的章节我们会进行详细的分析。第一种是隐马尔可夫模型(HMM)，这是一种离散的模型；第二种是线性动态系统(LDS)，这是一种线性的连续的模型，包括典型的Kalman Filter。第三种是Particle Filter，一种非高斯的，非线性的模型。

4. 连续
   连续就是Guassian Bayesian Network，前面有提到过。

5. 总结
   

   • 总的来说，用两句话总结这些模型：
     $$\begin{gathered} 从单一到混合； \\ 从有限到无限。 \end{gathered}$$
   • 从有限到无限又可以分为两个角度：
     • 空间（随机变量的取值从离散到连续）
     • 时间（加入时间维度，从某一时刻延长到无限时间）

---

9.5 马尔可夫随机场-Representation-条件独立性

1. 上一小节，我们了解有向图Bayesian Network，学习了条件独立性、D-Seperation和因子分解($p(x)={\prod }_{i=1}^{N}p(x_i|x_{pa(i)})$)。虽然，有向图中可以方便直观的表达条件独立性，但是它也有局限性。即对于Head to Head的结构来说，当中间节点被观察到的时候，两端的节点反而是相关的，这违反了条件独立性的特点。

   本节开始讲解Markov network（无向图的代表），其中也包含条件独立性和因子分解。

2. Markov中的条件独立，大致可以被我们分成三种情况，Global Markov，Local Markov和Pair Markov。三者之间满足：$$GlobalMarkov\iff LocalMarkov\iff PairMarkov.\text{\hspace{1em}(9.5.1)}$$

   1. 全局马尔可夫性(Global Markov)
      • 定义：在无向图中给定三个集合$A,B,C$，在无向图中如果满足给定$X_C$的条件下，$X_A$和$X_B$相互独立，即$X_A\perp X_B|X_C$，则满足全局马尔可夫性。
      • 解释：在图中的判定方法为从$A$中节点到$B$中节点的任何路径上都至少有一个位于$C$中的节点：
        
   2. 局部马尔可夫性(Local Markov)
      • 定义：针对某个结点$a$，当给定它的邻居结点时，它独立于其余结点。即：
        a ⊥ { 全 集 − a − a 的 邻 居 } ∣ 邻 居 . (9.5.2) \color{red}a\bot \{全集-a-a的邻居\}|邻居.\tag{9.5.2} a⊥{全集−a−a的邻居}∣邻居.(9.5.2)
        也可以写成：$$x\perp (X-Neighbor(x)-x)|Neighbor(x).\text{\hspace{1em}(9.5.3)}$$
      • 举例：在下图对于节点$a$， x ⊥ { e , f } ∣ { b , c , d } x\perp \left \{e,f\right \}|\left \{b,c,d\right \} x⊥{e,f}∣{b,c,d}
        
   3. 成对马尔可夫性(Pair Markov)
      成对马尔可夫性是指给定所有其他变量，两个非邻接变量条件独立，即：
      $$x_i\perp x_j|x_{-i-j}其中i\ne j,x_i,x_j不相邻.\text{\hspace{1em}(9.5.4)}$$

9.6 马尔可夫随机场-Representation-因子分解

有向图中按照拓扑排序根据结点与其父结点的关系进行分解，但是在无向图中失去了方向性，从主观上来看，若$x_i\perp x_j$那么，$x_i,x_j$必然不在同一个因子里，从图上来看应该不是关联的。

1. 团

   • 团：一个关于结点的集合，集合中的结点之间相互都是连通的。(类似数据结构中的完全图）
   • 最大团：在一个团中不能再添加任何结点，若添加后则不为团，称此团为最大团(数据结构中的极大连通子图)。

   将概率无向图模型的联合概率分布表示为其最大团上的随机变量的函数的乘积形式的操作，称为概率无向图模型的因子分解。

2. 因子分解
   给定概率无向图模型，$C_i,i=1,2,\cdots ,k$为无向图模型上的最大团，则$x$的联合概率分布$P(x)$可以写为：
   $$p(x)=\frac{1}{Z}\prod _{i=1}^k\varphi (x_{C_i}).\text{\hspace{1em}(9.5.5)}$$
   其中，$C_i$为最大团，$x_{C_i}$为最大团随机变量集合，$\varphi (x_{C_i})$为势函数(必须为正)，$Z$是归一化因子。因为没有归一化因子的话，这不能被称为一个概率分布，因为概率分布要保证和等于$1$。那么，$Z$可以写成：
   $$z=\sum _x\prod _{i=1}^k\varphi (x_{C_i})=\sum _{x_1}\sum _{x_2}\cdots \sum _{x_N}\prod _{i=1}^k\varphi (x_{C_i}).\text{\hspace{1em}(9.5.6)}$$
   其中$x$有$N$个点。$接下来需要证明这种因子分解与条件独立性等价$。即：
   $$GlobalMarkov\iff LocalMarkov\iff PairMarkov\underset{Hammesley-Clifford}{\iff }因子分解.\text{\hspace{1em}(9.5.7)}$$
   这个定理的证明非常的困难，我们这里就不做过多的阐述(有需求的小伙伴可以查下Hammesley-Clifford定理的证明)。

3. 势函数
   在我们之前的定义中，
   $$p(x)=\frac{1}{Z}\prod _{i=1}^k\varphi (x_{C_i})$$
   其中$c_i$为最大团；$x_{c_i}$为最大团的随机变量集合；$\varphi (x_{c_i})$为势函数，必须为正。势函数的概念是来自于统计物理学和热力学的过程。

   • 势函数必定为正，我们可以将势函数表达为 ϕ ( x c i ) = exp ⁡ { − E ( x c i ) } \phi(x_{c_i}) = \exp\{ -E(x_{c_i}) \} ϕ(xci​​)=exp{−E(xci​​)}。其中，$E(x_{c_i})$称为Energy function。实际上用这种形式表达的$p(x)$，为Gibbs Distribution，或者又被称之为Boltzman Distribution。可以写成：
     p ( x ) = 1 Z ∏ i = 1 K ϕ ( x c i ) = 1 Z ∏ i = 1 K exp ⁡ { − E ( x c i ) } = 1 Z exp ⁡ { − ∑ i = 1 k E ( x c i ) } . (9.5.8) p(x) = \frac{1}{Z}\prod_{i=1}^K\phi(x_{c_i}) = \frac{1}{Z}\prod_{i=1}^K \exp\{ -E(x_{c_i}) \} = \frac{1}{Z}\exp\{ - \sum_{i=1}^k E(x_{c_i}) \}.\tag{9.5.8} p(x)=Z1​i=1∏K​ϕ(xci​​)=Z1​i=1∏K​exp{−E(xci​​)}=Z1​exp{−i=1∑k​E(xci​​)}.(9.5.8)
   • 指数族分布与势函数
     我们将指数族分布和势函数联系起来：
     p ( x ) = h ( x ) exp ⁡ { η T ϕ ( x ) − A ( η ) } = h ( x ) 1 Z ( η ) exp ⁡ { η T ϕ ( x ) } . (9.5.9) p(x) = h(x)\exp\{ \eta^T\phi(x) - A(\eta) \} = h(x)\frac{1}{Z(\eta)}\exp\{ \eta^T\phi(x)\}.\tag{9.5.9} p(x)=h(x)exp{ηTϕ(x)−A(η)}=h(x)Z(η)1​exp{ηTϕ(x)}.(9.5.9)
     发现势函数(Gibbs Distribution)是一个指数族分布。Gibbs是来自统计物理学，形式上和指数族分布时一样的。而指数族分布实际上是由最大熵分布得到的，那么我们可以理解Gibbs分布也是有最大熵原理得到的。而马尔可夫随机场(Markov Random Field)实际上等价于Gibbs分布。即：
     $$最大熵原理\Rightarrow 指数族分布(Gibbs分布).\text{\hspace{1em}(9.5.10)}$$
     $$MarkovRandomField\iff GibbsDistribution.\text{\hspace{1em}(9.5.11)}$$

总结

1. 马尔科夫随机场
   1. Global Markov：$X_A\perp X_C|X_B$。如果$A,B,C,$满足$Sep(A,C|B)$，Sep代表D-Separation，那么$X_A\perp X_C|X_B$。
   2. Local Markov Network：$x_i\perp x_{-i-nb(i)}|x_{nb(i)}$，其实nb(i)：neighbor of node i。
   3. Pair Markov：$x_i\perp x_j|x_{-i-j}$。
   4. 因子分解：$p(x)=\frac{1}{Z}{\prod }_{i=1}^k\varphi (x_{C_i})$
      四者之间的关系：
      $$GlobalMarkov\iff LocalMarkov\iff PairMarkov\underset{Hammesley-Clifford}{\iff }因子分解$$
2. 势函数
   • 势函数必定为正，可以表达为 ϕ ( x c i ) = exp ⁡ { − E ( x c i ) } \phi(x_{c_i}) = \exp\{ -E(x_{c_i}) \} ϕ(xci​​)=exp{−E(xci​​)}。其中，$E(x_{c_i})$称为Energy function。实际上用这种形式表达的$p(x)$，为Gibbs Distribution，或者又被称之为Boltzman Distribution。
     $$\begin{gathered} 最大熵原理\Rightarrow 指数族分布(Gibbs分布) \\ MarkovRandomField\iff GibbsDistribution. \end{gathered}$$

---