机器学习综述(一) ---- 贝叶斯网络

该系列日志仅记录在做machine learning review的group meeting slides中的各种疑惑及寻求到的答案。

1.什么是贝叶斯网络？

贝叶斯网络，又称信念网络或是有向无环图模型，是一种概念图模型，借由有向无环图中得知一组随机变量及其n组条件概率分布的性质。

2.贝叶斯网络的学习目标是什么？

举例而言，贝叶斯网络可用来表示疾病和其相关症状间的概率关系；倘若已知某种症状下，贝叶斯网络就可用来计算各种可能罹患疾病之发生概率。

仔细阅读了贝叶斯网络【维基百科】中的服务器给用户分发包的例子，我的感觉就是数据中特征跟标签的界限并不是很明确？

如果说服务器分发数据包这个例子中，Y代表的事件就是用户是否成功收到数据包的话，然后X代表是server1发送数据包和server2发送数据包。然后可以理解根据经验数据，求得了联合概率分布，我们的预测事件为计算P(用户成功收到数据包|server发送数据包)的概率。还是说的通的。好像也比较符合实际应用。

那医药上的概率推论例子呢？

其中，S代表的是吸烟与否（Smoker），C代表是否为罹癌者（Cancer），B代表是否罹患支气管炎（bronchitis），D代表是否有呼吸困难及咳嗽（dyspnea and asthma）的症状。

如果让我来理解的，我只认为S、D是特征，C和B是标签。但是放到一个网络中来看的时候，特征和标签的界限就没有那么明确。

步骤1：根据S、C、B、D的观察数据表格绘制贝叶斯网络结构图(疑惑1：这个图是有环的？不对，仔细看，SCB之间不是环。)

     -------->>>>>

步骤2：根据经验联合概率分布，推出贝叶斯网络的节点联合概率分布

     ---------->>>>>>

步骤3：利用节点的边际概率和联合概率计算得到节点的条件概率

      ----------->>>>>>>

步骤4：利用贝叶斯网络结构图推出贝叶斯网络的联合概率分布公式

步骤5：利用贝叶斯网络的联合概率分布公式计算贝叶斯联合概率，四个因子，总共四种组合。

结论：步骤5得到的结果与步骤2中的观察数据有所不同。差异不只是值的不同，也出现了新事件的概率。

3. 得到了贝叶斯网络联合概率分布以后，如何用于预测？

在贝叶斯定理中，P(?│?)=?(?,?)/?(?), 如果按照枚举法的话，

等式右侧都可以通过联合概率分布求得。

4.贝叶斯网络和隐马尔科夫的区别？

马尔科夫链没有方向，有环。