机器学习笔记之概率图模型(十)因子图

引言

本节针对精确推断之变量消去法中出现的存在环结构概率图的情况，介绍因子图(Factor Graph)，其主要将带环的无向图结构转化为因子图结构。

回顾：图结构相关思想

针对贝叶斯网络/马尔可夫随机场，可以通过因子分解的形式对结点变量集合$\mathcal{X}$的联合概率分布$\mathcal{P}(\mathcal{X})$进行表示：

• 贝叶斯网络(有向图)
  在这里同样需要注意，这里的$i$是结点变量的下标，它只能说‘有可能是特征下标’，即‘每个结点变量中均仅包含一个特征/变量’。
  $$\mathcal{P}(\mathcal{X})=\prod _{\mathcal{X}}\mathcal{P}(x_i\mid x_{pa(i)})$$
• 马尔可夫随机场(无向图)
  $$\mathcal{P}(\mathcal{X})\prod _{i=1}^{\mathcal{K}}{\psi }_{{\mathcal{C}}_i}(x_{{\mathcal{C}}_i})$$
  其中，$x_{{\mathcal{C}}_i}$表示编号为$i$的最大团，无向图中一共包含$\mathcal{K}$个极大团。而${\psi }_{{\mathcal{C}}_i}(x_{{\mathcal{C}}_i})$表示极大团$x_{}$