Bayes Belief Networks详解（附带详细公式推导）

Bayes Belief Networks详解

第十次写博客，本人数学基础不是太好，如果有幸能得到读者指正，感激不尽，希望能借此机会向大家学习。这篇文章主要分为一下三部分来介绍贝叶斯信念网（Bayes Belief Networks）：BNN的简要介绍、如何构建BNN、如何基于BNN进行估计以及BNN的特点。

贝叶斯信念网

这一部分主要是讲贝叶斯网的基本结构、条件独立性与边界独立性以及条件独立性分析。

基本结构

  “贝叶斯信念网络”（Bayes Belief Networks，BBN），简称贝叶斯网，用图形表示一组随机变量（属性）之间的依赖关系。有两个重要的组成部分：
  （1）一个有向无环图（Directed Acyclic Graph，简称DAG），来刻画变量之间的依赖关系。
  （2）一个概率表（Conditional Probability Table，简称CDT），来描述随机变量之间（子结点与父结点之间）的联合概率分布。
  具体来说，一个贝叶斯网$B$由有向无环结构$G$和概率参数表$\theta$组成，即$B=<G,\theta >$。有向无环结构$G$中的每个结点代表了一个随机变量，如果两个变量之间有直接的依赖关系，那么就将他们通过一条有向边连接起来。概率参数表$\theta$则是定量的描述这种依赖关系，例如，假设属性$x$在$G$中只有一个父结点$y$，那么${\theta }_{x|y}$描述了这俩变量所组成的条件概率分布，即${\theta }_{x|y}=P_B\left(x|y\right)$；假设属性$x$在$G$中有多个父结点$y_i\left(i=1,2,...,n\right)$，那么${\theta }_{x|y}$描述了这$n+1$个变量所组成的条件概率分布，即 θ x ∣ y = P B ( x ∣ y 1 , y 2 , . . . , y n ) \theta_{x|y}=P_B\left(x|y_1,y_2,...,y_n\right) θx∣y​=PB​(x∣y1​,y