贝叶斯网络学习

状态空间搜索：如果按专业点的说法就是将问题求解过程表现为从初始状态到目标状态寻找这个路径的过程。通俗点说，两点之间求一线路，这两点是求解的开始和问题的结果，而这一线路不一定是直线，可以是曲折的。由于求解问题的过程中分枝有很多，主要是求解过程中求解条件的不确定性，不完备性造成的，使得求解的路径很多这就构成了一个图，我们说这个图就是状态空间。问题的求解实际上就是在这个图中找到一条路径可以从开始到结果。这个寻找的过程就是状态空间搜索。

启发式搜索（MMPC）：就是在状态空间中的搜索对每一个搜索的位置进行评估，得到最好的位置，再从这个位置进行搜索直到目标。这样可以省略大量无谓的搜索路径，提高了效率。在启发式搜索中，对位置的估价是十分重要的。采用了不同的估价可以有不同的效果。

最大最小爬山算法Max-Min Hill-Climbing（MMHC）：可以认为是条件独立测试，搜索和评分这两种方法概念和技术的混合方法。MMHC算法有两个阶段，首先使用启发式搜索算法MMPC确定每个节点的候选父子节点集，构建贝叶斯网络框架，然后通过评分搜索的方法在约束空间执行边的增加、删除和转换边的方向的操作找到评分最大的网络。

以下转载自：GnahzNib

贝叶斯网络，由一个有向无环图(DAG)和条件概率表(CPT)组成。 
贝叶斯网络通过一个有向无环图来表示一组随机变量跟它们的条件依赖关系。它通过条件概率分布来参数化。每一个结点都通过P(node|Pa(node))来参数化，Pa(node)表示网络中的父节点。

如图是一个简单的贝叶斯网络，其对应的全概率公式为：

P(a,b,c)=P(c∣a,b)P(b∣a)P(a)P(a,b,c)=P(c∣a,b)P(b∣a)P(a)

较复杂的贝叶斯网络，其对应的全概率公式为：

P(x1,x2,x3,x4,x5,x6,x7)=P(x1)P(x2)P(x3)P(x4∣x1,x2,x3)P(x5∣x1,x3)P(x6∣x4)P(x7∣x4,x5)P(x1,x2,x3,x4,x5,x6,x7)=P(x1)P(x2)P(x3)P(x4∣x1,x2,x3)P(x5∣x1,x3)P(x6∣x4)P(x7∣x4,x5)