贝叶斯网络

再来说一点贝叶斯网络
朴素贝叶斯分类器 和 贝叶斯网络的区别就是，朴素贝叶斯分类器的各个特征属性之间是相互独立的，而贝叶斯网络研究的问题则针对于特征属性不独立的情况。

贝叶斯网络(Bayesian network)，又称信念网络(Belief Network)，或有向无环图模型(directed acyclic graphical model)，是一种概率图模型，于1985年由Judea Pearl首先提出。它是一种模拟人类推理过程中因果关系的不确定性处理模型，其网络拓朴结构是一个有向无环图(DAG)。

贝叶斯网络的有向无环图中的节点表示随机变量，它们可以是可观察到的变量，或隐变量、未知参数等。认为有因果关系（或非条件独立）的变量或命题则用箭头来连接（换言之，连接两个节点的箭头代表此两个随机变量是具有因果关系，或非条件独立）。若两个节点间以一个单箭头连接在一起，表示其中一个节点是“因(parents)”，另一个是“果(children)”，两节点就会产生一个条件概率值。

例如，假设节点E直接影响到节点H，即E→H，则用从E指向H的箭头建立结点E到结点H的有向弧(E,H)，权值(即连接强度)用条件概率P(H|E)来表示，如下图所示：

简言之，把某个研究系统中涉及的随机变量，根据是否条件独立绘制在一个有向图中，就形成了贝叶斯网络。其主要用来描述随机变量之间的条件依赖，用圈表示随机变量(random variables)，用箭头表示条件依赖(conditional dependencies)。

贝叶斯网络定义： 令G = (I,E)表示一个有向无环图(DAG)，其中I代表图形中所有的节点的集合，而E代表有向连接线段的集合，且令X = (Xi)i ∈ I为有向无环图中的某一节点i所代表的随机变量，若节点X的联合概率可以表示成：

则称X为相对于有向无环图G 的贝叶斯网络，其中，pa(i)表示节点i之“因”，或称pa(i)是i的parents（父母）。
此外，对于任意的随机变量，其联合概率可由各自的局部条件概率分布相乘而得出：

如下图所示，便是一个简单的贝叶斯网络：

有p(a,b,c)=p(c|a,b)p(b|a)p(a)

注：这里定义其实还不是特别理解

贝叶斯网络的3种结构形式
形式1：head-to-head

在c未知的条件下，a、b被阻断(blocked)，是独立的，称之为head-to-head条件独立。

形式2：tail-to-tail

在c给定的条件下，a，b被阻断(blocked)，是独立的，称之为tail-to-tail条件独立，但在c未知的情况下，a，b不独立

形式3：head-to-tail

在c给定的条件下，a，b被阻断(blocked)，是独立的，称之为head-to-tail条件独立。但在c未知情况下，a，b不独立

注：这个head-to-tail其实就是一个链式网络，在xi给定的条件下，xi+1的分布和x1,x2…xi-1条件独立。即：xi+1的分布状态只和xi有关，和其他变量条件独立，这种顺次演变的随机过程，就叫做马尔科夫链（Markov chain）。

且有：

思考：在贝叶斯网络的实际应用中，往往只知道有那些特征属性，但并不知道网络拓扑，也不知道特征属性之间的具体关系，所以在实际的应用中，有时候需要预设拓扑，并通过不断的学习来更新拓扑以及特征属性之间的联系。这是掌握了贝叶斯网络之后需要进一步学些的内容。

目前就看懂到这儿了，后续在补充

其他相关未懂概念：因子图，道德图，

参考：https://blog.csdn.net/zdy0_2004/article/details/41096141
https://blog.csdn.net/cxjoker/article/details/81878188
https://blog.csdn.net/tanggao1314/article/details/69055442