概率图模型--变量消元法与团树传播算法

概率图模型–变量消元法与团树传播算法 – 潘登同学的Machine Learning笔记

简单回顾概率图模型的推理任务

• 求解边缘概率
  $$p({\mathbf{x}}_{\mathbf{a}})=\sum _{\mathbf{x}╲{\mathbf{x}}_{\alpha }}$$

• 求最大后验概率状态
  $$X^{\ast }=\underset{\mathbf{x}\in \chi }{\mathrm{argmax}}p(\mathbf{x})$$

• 求归一化因子
  $$Z=\sum _{\mathbf{x}}\prod _c{\varphi }_c({\mathbf{x}}_{\mathbf{c}})$$

概率推理是核心问题, 概率推理相当于模型求解;

变量消元算法

• 思路

通过从联合概率分布逐步消除变量, 来求解边缘概率

(就是最基础的$P(A,B)={\sum }_{C、D}P(A,B,C,D)$ 的形式)

我们从例子来理解变量消元算法

MRF应用变量消元算法

考虑这样一个链式MRF

$$\begin{array}{rlr}P(E)& \propto \sum _D\sum _C\sum _B\sum _A\tilde{P}(A,B,C,D,E)& \\ & =\sum _D\sum _C\sum _B\sum _A{\varphi }_1(A,B){\varphi }_2(B,C){\varphi }_3(C,D){\varphi }_4(D,E)& \\ & =\sum _D\sum _C\sum _B{\varphi }_2(B,C){\varphi }_3(C,D){\varphi }_4(D,E)(\sum _A{\varphi }_1(A,B))& \text{注意}\\ & =\sum _D\sum _C\sum _B{\varphi }_2(B,C){\varphi }_3(C,D){\varphi }_4(D,E){\tau }_1(B)& \\ & =\sum _D\sum _C{\varphi }_3(C,D){\varphi }_4(D,E)\sum _B{\varphi }_2(B,C){\tau }_1(B)& \\ & =\cdots & \\ & ={\tau }_4(E)& \\ & \Rightarrow 归一化\Rightarrow 概率值& \end{array}$$

注意

• 能把${\sum }_A$移到右边的原因:其他项中都不含A;
• 前面之所以用$\propto$是因为还没归一化;

贝叶斯网络应用变量消元算法

考虑这样一个贝叶斯网络

• 目标: 求J的边缘概率

消元顺序1(没有固定的说法, 一般从少的开始消)

消元顺序： C,D,I,H,G,S,L
$$\begin{array}{rl}P(J)& =\sum _{L,S,G,H,I,D,C}{\varphi }_C(C){\varphi }_D(C,D){\varphi }_I(I){\varphi }_G(G,I,D){\varphi }_S(S,I){\varphi }_L(L,G){\varphi }_J(J,L,S){\varphi }_H(H,G,J)\\ & =\sum _{L,S,G,H,I,D}{\varphi }_I(I){\varphi }_G(G,I,D){\varphi }_S(S,I){\varphi }_L(L,G){\varphi }_J(J,L,S){\varphi }_H(H,G,J)\sum _C{\varphi }_C(C){\varphi }_D(C,D)\\ & =\sum _{L,S,G,H,I,D}{\varphi }_I(I){\varphi }_G(G,I,D){\varphi }_S(S,I){\varphi }_L(L,G){\varphi }_J(J,L,S){\varphi }_H(H,G,J){\tau }_1(D)\\ & =\sum _{L,S,G,H,I}{\varphi }_I(I){\varphi }_S(S,I){\varphi }_L(L,G){\varphi }_J(J,L,S){\varphi }_H(H,G,J)\sum _D{\varphi }_G(G,I,D){\tau }_1(D)\\ & =\sum _{L,S,G,H,I}{\varphi }_I(I){\varphi }_S(S,I){\varphi }_L(L,G){\varphi }_J(J,L,S){\varphi }_H(H,G,J){\tau }_2(G,I)\\ & =\sum _{L,S,G,H}{\varphi }_L(L,G){\varphi }_J(J,L,S){\varphi }_H(H,G,J)\sum _I{\varphi }_I(I){\varphi }_S(S,I){\tau }_2(G,I)\\ & =\sum _{L,S,G,H}{\varphi }_L(L,G){\varphi }_J(J,L,S){\varphi }_H(H,G,J){\tau }_3(G,S)\\ & =\cdots \\ & ={\tau }_7(J)(因为贝叶斯网络中的势函数就是条件概率,无需归一化,所以ta{u}_7(J)就是P(J)\end{array}$$

• 表格展示(消元顺序)

C,D,I,H,G,S,L

步骤	消元变量	涉及因子	涉及变量	新因子
1	C	${\varphi }_C(C){\varphi }_D(C,D)$	C,D	${\tau }_1(D)$
2	D	${\tau }_1(D){\varphi }_G(G,I,D)$	G,I,D	${\tau }_2(G,I)$
3	I	${\tau }_2(G,I){\varphi }_I(I){\varphi }_S(S,I)$	G,S,I	${\tau }_3(G,S)$
4	H	${\varphi }_H(H,G,J)$	H,G,J	${\tau }_4(G,J)$
5	G	${\tau }_3(G,S){\tau }_4(G,J){\varphi }_L(L,G)$	S,G,J,L	${\tau }_5(S,L,J)$
6	S	${\tau }_5(S,L,J){\varphi }_J(J,L,S)$	S,L,J	${\tau }_6(L,J)$
7	L	${\tau }_6(L,J)$	L,J	${\tau }_7(J)$

消元顺序2

G,I,S,L,H,C,D

这里就不再写公式了, 直接用表格展示

步骤	消元变量	涉及因子	涉及变量	新因子
1	G	${\varphi }_G(G,I,D){\varphi }_L(L,G){\varphi }_H(H,G,J)$	G,I,D,L,H,J	${\tau }_1(I,D,L,H,J)$
2	I	${\varphi }_I(I){\varphi }_S(S,I){\tau }_1(I,D,L,H,J)$	S,I,D,L,H,J	${\tau }_2(D,L,S,H,J)$
3	S	${\varphi }_J(J,L,S){\tau }_2(D,L,S,H,J)$	S,D,L,H,J	${\tau }_3(D,L,H,J)$
4	L	${\tau }_3(D,L,H,J)$	D,L,H,J	${\tau }_4(D,H,J)$
5	H	${\tau }_4(D,H,J)$	D,H,J	${\tau }_5(D,J)$
6	C	${\tau }_5(D,J){\varphi }_C(C){\varphi }_D(C,D)$	D,J,C	${\tau }_6(D,J)$
7	D	${\tau }_6(D,J)$	D,J	${\tau }_7(J)$

可以看到, 这种消元方法：在前面几步的时候运算量很大, 就有可能增加算法的复杂度, 但是具体增加还是减少要具体分析, 下面会分析算法复杂度;

算法：变量消元法

$Sum-Product-VE(\Phi ,Z)$
$$\begin{array}{rlr}& /input:\Phi 为因子集,Z为消元变量集& \\ & 1令变量消元顺序为Z_1,\dots ,Z_k& \\ & 2fori=1\dots k& \\ & \Phi \leftarrow Sum-Product-Eliminate-Var(\Phi ,Z_i)& \text{每次消一个元}\\ & 3return\prod _{\varphi \in \Phi }\varphi & \end{array}$$

$Sum-Product-Eliminate-Var(\Phi ,Z)$
/ i n p u t : Φ 为 因 子 集 , Z 为 消 元 变 量 1 Φ ′ ← { ϕ ∈ Φ : Z ∈ S c o p e [ ϕ ] } 从因子集中挑出与消元变量Z有关的因子 2 Φ ′ ′ ← Φ − Φ ′ 因子集做差：与消元变量Z无关的因子 3 ψ ← ∏ ϕ ∈ Φ ′ ϕ 对每种情况的势函数做连乘 4 τ ← ∑ Z ψ 将所有情况加起来 5 r e t u r n    Φ ′ ′ ∪ { τ } 返回消元后的因子集 \\ \begin{aligned} &\qquad /input: \Phi为因子集, Z为消元变量\\ &\mathbf{1} \Phi' \leftarrow \{\phi\in\Phi:Z\in Scope[\phi]\}& \text {从因子集中挑出与消元变量Z有关的因子}\\ &\mathbf{2} \Phi'' \leftarrow \Phi-\Phi'&\text{因子集做差：与消元变量Z无关的因子}\\ &\mathbf{3} \psi \leftarrow \prod_{\phi\in\Phi'}\phi &\text{对每种情况的势函数做连乘}\\ &\mathbf{4} \tau \leftarrow\sum_{Z}\psi &\text{将所有情况加起来}\\ &\mathbf{5} \quad return \;\Phi'' \cup \{\tau\}&\text{返回消元后的因子集} \end{aligned} ​/input:Φ为因子集,Z为消元变量1Φ′←{ϕ∈Φ:Z∈Scope[ϕ]}2Φ′′←Φ−Φ′3ψ←ϕ∈Φ′∏​ϕ4τ←Z∑​ψ5returnΦ′′∪{τ}​从因子集中挑出与消元变量Z有关的因子因子集做差：与消元变量Z无关的因子对每种情况的势函数做连乘将所有情况加起来返回消元后的因子集​

算法复杂度分析

• 假设概率图模型有n个随机变量, m个因子, 假设变量消元法执行n步；
• 每一步, 消去一个变量$x_i$, (包含$x_i$的因子相乘得到$\psi$，再对$\psi$求和，消去变量)
• 令$N_i$为因子\psi_i的参数个数，$N_{max}={\max }_i{N}_i$;则变量消元法的乘法计算次数就是$O(m{N}_{max})$, 加法计算次数$O(n{N}_{max})$
• 更一般的, 假设每个变量的可能取值数最多为v, 因子$\psi$的变量个数最多为K,则整个算法的复杂度为$O(m{v}^K)$,

团树传播算法

• 团树传播算法和变量消元算法在本质上是一样的, 从不同角度出发;

• 变量消元算法把全局概率推理转化为局部因子之间的乘积和求和运算; 团树传播算法先构造一个团树, 把概率推理计算转化为团树节点之间的消息传递, 消息传递本质上也是因子之间的乘积和求和运算;

问题: 既然是一样的， 为什么要创建一个这样的算法?

因为当实现变量消元算法的时候, 其实要构造图来进行变量消元, 而这个图经过优化之后就是团树传播算法;

聚类图

• 定义

对于给定的概率图模型, 因子集 Φ = { ϕ } \Phi = \{\phi\} Φ={ϕ}，变量集为$\chi$。聚类图是定义在概率图模型上的一个无向图, 每个节点$i$是变量集的子集, 即$C_i\subseteq \chi$。 聚类图必须满足族保持， 即每个因子$\varphi$必须与一个节点$C_i$关联, 使得$Scope[\varphi ]\subseteq C_i$。 一对节点$C_i$和$C_j$之间的每条边与一个割集$S_{i,j}$关联, 其中$S_{i,j}\subseteq C_i\cap C_j$;

• 例子:

由变量消元法导出团树传播算法

• 回到上面的那个例子:

• 变量消元算法

步骤	消元变量	涉及因子	涉及变量	新因子
1	C	${\varphi }_C(C){\varphi }_D(C,D)$	C,D	${\tau }_1(D)$
2	D	${\tau }_1(D){\varphi }_G(G,I,D)$	G,I,D	${\tau }_2(G,I)$
3	I	${\tau }_2(G,I){\varphi }_I(I){\varphi }_S(S,I)$	G,S,I	${\tau }_3(G,S)$
4	H	${\varphi }_H(H,G,J)$	H,G,J	${\tau }_4(G,J)$
5	G	${\tau }_3(G,S){\tau }_4(G,J){\varphi }_L(L,G)$	S,G,J,L	${\tau }_5(S,L,J)$
6	S	${\tau }_5(S,L,J){\varphi }_J(J,L,S)$	S,L,J	${\tau }_6(L,J)$
7	L	${\tau }_6(L,J)$	L,J	${\tau }_7(J)$

• 团树消元算法

• 由变量消元构造团树

  • 每一步涉及的变量, 作为节点
  • 每个节点间通过有新因子相连

注意:节点1虽然看上去是C、D, 但是C、D本身没有含义, 节点其实是${\varphi }_C(C){\varphi }_D(C,D)$

结合定义深刻理解聚类图的构造

• 每个节点$i$是变量集的子集, 即$C_i\subseteq \chi$

  对应回上图发现, 每个节点都是变量集 { C , D , I , H , G , S , L } \{C,D,I,H,G,S,L\} {C,D,I,H,G,S,L}的子集

• 即每个因子$\varphi$必须与一个节点$C_i$关联, 使得$Scope[\varphi ]\subseteq C_i$

  以3:G、I、S为例, 因子${\varphi }_I(I)、{\varphi }_S(S,I)$与该节点关联

• 一对节点$C_i$和$C_j$之间的每条边与一个割集$S_{i,j}$关联, 其中$S_{i,j}\subseteq C_i\cap C_j$

  以1:C、D和2:D、I、G为例, 边是$D$，而 D ⊆ { C 、 D } ∩ { D 、 I 、 G } D\subseteq \{C、D\}\cap \{D、I、G\} D⊆{C、D}∩{D、I、G}

深刻理解新因子就是消息传递

回想变量消元法的过程, 如第一步：消去变量C， 那就对涉及C、D的因子做乘积求和， 然后C的信息就蕴含在新因子${\tau }_1(D)$中了；

那么后续第二步, 当想消去变量D的时候, 因为与变量C有关的那部分D的信息蕴含在${\tau }_1(D)$中了, 所以这个因子就作为一个消息传递到2:D、I、G中;

关键还是要理解前面的注意:

• 节点看上去是C、D, 但实际上是与C、D有关的因子;

进而:

• 一旦产生了新因子${\tau }_1(D)$, 其实这个新因子既可以属于1:C、D也可以属于2:D、I、G(根据定义判断即可), 所以这个新因子就充当了消息传递的边出现;

又因为:

• 外表其实不能是因子(还是根据定义), 所以就用D当作边, 但是我们心里清楚D其实没啥含义, 关键是${\tau }_1(D)$这个新因子;

由变量消元法构造的聚类图满足什么性质？

• 性质1: 树状图, 在变量消元过程中, 每个中间因子被使用一次, 每个聚类图的节点传递一个消息给唯一的另一个节点, 因此整个变量消元的过程产生的聚类图为一个树状图(因为树的特点就是: N个点的树有N-1条边, 就是连接N个点的最小边数);

• 性质2: 族保持(每个因子$\varphi$必须与一个节点$C_i$关联, 使得$Scope[\varphi ]\subseteq C_i$), 概率图模型的每个因子必须出现在某个消元步骤, 所以满足族保持性质;

• 性质3：执行交叉性质(对于聚类图, 如果对于任意变量$X\in C_i,X\in C_j$， 若$X$也出现在两个节点之间唯一路径上的两个节点, 则该聚类图满足执行交叉性质)

• 团树

如果聚类图满足上述三个性质, 则聚类图定义为团树；

显然, 由变量消元法得到的聚类图为团树;

算法: 团树传播算法

(算法)团树传播算法

• 计算变量X的边缘概率

  • 输入： 变量消元法的结果(包括消元顺序， 涉及变量， 涉及因子， 新因子)

  • 输出： X的边缘概率

• 利用变量消元构造团树, 团树节点势函数初始化
• 选取变量X所在的节点作为根节点
• 计算叶子节点到根节点的消息
• 根节点的势函数乘以来自邻接点的消息
• 计算变量X所在节点的边缘概率

注意 之所以能把X作为根节点, 是因为树就是有这个特性, 树的任意一个节点都能作为根节点；

• 例子: 求J的边缘概率

  • 利用变量消元构造团树
    

  • 团树节点势函数初始化
    

  • 选取最右边那个空的节点作为根节点

  • 计算叶节点到根节点的消息
    δ i → j = ∑ C i − S i , j ∏ k ∈ ( N b C r − { j } ) δ k → i \delta_{i \rightarrow j} = \sum_{C_i-S_{i,j}}\prod_{k\in(Nb_{C_r}-\{j\})}\delta_{k \rightarrow i} δi→j​=Ci​−Si,j​∑​k∈(NbCr​​−{j})∏​δk→i​

  • ${\delta }_{1\to 2}(D)={\sum }_C{\psi }_1(C_1)$

  • ${\delta }_{2\to 3}(G,I)={\sum }_D{\psi }_2(C_2)\times {\delta }_{1\to 2}$

  • ${\delta }_{3\to 5}(G,S)={\sum }_I{\psi }_3(C_3)\times {\delta }_{2\to 3}$

  • ${\delta }_{4\to 5}(G,J)={\sum }_H{\psi }_4(C_4)\times {\delta }_{2\to 3}$

  • ${\delta }_{5\to 6}(J,S,L)={\sum }_G{\psi }_5(C_5)\times {\delta }_{4\to 5}\times {\delta }_{3\to 5}$

  • ${\delta }_{6\to 7}(J,L)={\sum }_S{\psi }_6(C_6)\times {\delta }_{5\to 6}$

  • $P(J)={\sum }_L{\delta }_{5\to 6}$

说白了就是变量消元法的程序实现罢了;

如何求概率图所有节点的边缘概率

一种很自然的想法就是， 对所有节点作为根节点， 多次计算边缘概率；

但是有更好的方法, 基于树的特性：

• 任取一个节点作为根节点;
• 先从叶节点传递消息至根节点， 再从根节点传递消息至叶节点， 每个节点分别计算自身势函数乘以来自邻节点的信息;
• (对于含有m个节点的团树, 2(m-1)次消息传递就能计算所有节点的边缘概率)

画图来说明:

• 左边两种是选择目标节点作为根节点计算边缘概率密度
• 而右边的是任取一个节点(4)当作根节点, 然后传递两次, 可以在图中看到任何节点的边缘概率密度都能被计算出来， 如节点2, 可以用1→2的蓝色箭头, 和3→2的紫色箭头的消息来计算边缘概率密度;

变量消元法与团树传播算法就是这样了, 继续下一章吧！pd的Machine Learning