置信传播（Belief Propagation）与链式有向图模型前向后向算法——CVMLI Prince读书随笔第11章

这本书把置信传播算法讲的非常清楚。所以这里mark一下。以下阅读请先知道链式有向图前后向算法的原理。

前向后向算法

记链式有向图隐变量为$w_{1....N}$，已知的观测值为$x_{1...N}$.
其中，前向函数$f_n(w_n)=P(x_{1...n},w_n)$，后向函数$b_n(w_n)=P(x_{n+1...N}|w_n)$. 进而：
$$P(w_n|x_{1...N})\propto P(w_n,x_{1...n})P(x_{x_{n+1...N}|w_n})=f_n(w_n)b_n(w_n)$$

置信传播

前向后向算法是置信传播的一个特例，$f_n,b_n$被视为传达关于变量信息。
和积算法是一种置信传播算法，可以很容易地从链式模型扩展到树模型。该算法在因子图上进行。因子图属于二部图(Bipartite Graph)。存在两类节点：

• 变量节点$z$，如$w_i$, $x_i$
• 函数节点$g$ ，如有向图中$P(w_1|w_2,w_3)$或无向图中$\varphi (w_1,w_2,w_3)$

变量节点所代表的变量是函数节点的自变量。同类节点之间没有边直接相连。
和积算法分两个过程，前向过程通过图分发信息，后向过程对信息进行校验。每一条边准确连接到一个变量节点，“消息”在变量的域上定义。
有三种类型的消息：

1. 从一个未观测变量$z_p$到一个函数节点$g_q$，消息为：
   $$m_{z_p\to g_q}=\prod _{r\in ne[p]\backslash q}{m}_{g_r\to z_p}\text{\hspace{1em}(1)}$$
   其中$ne[p]$是$z_p$的邻居节点集合。
   从未观测变量传到函数的消息是该变量的所有其他邻居传来消息的点乘，是其他置信度的组合。

2. 从一个已观测变量$z_p=z_p^{\ast }$到一个函数节点$g_q$，消息为：
   $$m_{z_p\to g_q}=\delta (z_p^{\ast })\text{\hspace{1em}(2)}$$
   从观测变量到函数的消息是该变量观测值的置信度。

3. 从函数节点$g_p$到接收变量$z_q$，消息为：
   $$m_{g_p\to z_q}=\sum _{ne[p]\backslash q}{g}_p(ne[p])\prod _{r\in ne[p]\backslash q}{m}_{z_r\to g_p}\text{\hspace{1em}(3)}$$
   需要该函数节点的其他邻居节点传来的置信度，并用函数$g_p$转换为$z_q$的置信度

最后，节点$z_p$的边缘分布可用所有同时从前向过程和后向过程传入的消息乘积
$$P(z_p)\propto \prod _{r\in ne[p]}{m}_{g_r\to z_p}\text{\hspace{1em}(4)}$$

链式有向图

前向过程

• 对于$m_{x_1\to g_1}$，使用规则2
  $$m_{x_1\to g_1}=\delta (x_1^{\ast })$$
• 对于$m_{g_1\to w_1}$，使用规则3
  $$m_{g_1\to w_1}=\int P(x_1|w_1)\delta (x_1^{\ast })d{x}_1=P(x_1=x_1^{\ast }|w_1)$$
• 对于$m_{w_1\to g_{1,2}}$，使用规则1
  $$m_{w_1\to g_{1,2}}=P(x_1=x_1^{\ast }|w_1)$$
• 对于$m_{g_{1,2}\to w_2}$，使用规则3
  $$m_{g_{1,2}\to w_2}=\sum _{w_1}P(w_2|w_1)P(x_1=x_1^{\ast }|w_1)$$

对于$m_{x_2\to g_2}$和$m_{g_2\to w_2}$与上述第1、2条类似

• 对于$m_{w_2\to g_{2,3}}$，使用规则1
  $$m_{w_2\to g_{2,3}}=P(x_2=x_2^{\ast }|w_2)\sum _{w_1}P(w_2|w_1)P(x_1=x_1^{\ast }|w_1)$$
  注意，$m_{w_n\to g_{n,n+1}}$即$f_n(w_n)=P(x_{1...n,w_n})$

反向过程

$$m_{w_N\to g_{N,N-1}}=P(x_N=x_N^{\ast }|w_N)$$
$$m_{g_{N,N-1}\to w_{N-1}}=\sum _{w_N}P(w_N|w_{N-1})P(x_N=x_N^{\ast }|w_N)$$
通常情况下有
$$m_{g_{n,n-1}\to w_{n-1}}=\sum _{w_n}P(w_n|w_{n-1})P(x_n|w_n)m_{g_{n+1,n}\to w_n}=b_{n-1}(w_{n-1})$$

计算边缘

利用式(4)，
$$\begin{array}{rl}P(w_n|x_{1...N})& \propto \prod _{m\in ne[n]}{m}_{g_m\to w_n}\\ & =m_{g_{n-1,n}\to w_n}{m}_{g_n\to w_n}{m}_{g_{n,n+1}\to w_n}\\ & =m_{w_n\to g_{n,n+1}}{m}_{g_{n,n+1}\to w_n}\\ & =f_n(w_n)b_n(w_n)\end{array}$$
上式第3行利用了规则1。

树模型

对于该树模型，注意$w_2,w_4,w_5$之间的关系。

无向图