概率图模型（PGM）学习笔记（四）-贝叶斯网络-伯努利贝叶斯-多项式贝叶斯

最新推荐文章于 2024-08-14 22:32:50 发布

ycheng_sjtu

最新推荐文章于 2024-08-14 22:32:50 发布

阅读量1w

点赞数 5

分类专栏：概率图模型（PGM）文章标签：贝叶斯概率图模型伯努利多项式 PGM

本文链接：https://blog.csdn.net/ycheng_sjtu/article/details/26175031

版权

本文介绍了概率图模型中的贝叶斯网络，探讨了条件概率链式法则与贝叶斯网络链式法则的区别，并通过依赖隔离（D-separation）原理解释了图不通则独立的定理。接着讲解了朴素贝叶斯模型，包括伯努利朴素贝叶斯和多项式朴素贝叶斯，以及它们在文本分类中的应用和朴素假设的含义。

摘要由CSDN通过智能技术生成

之前忘记强调了一个重要区别：条件概率链式法则和贝叶斯网络链式法则的区别

条件概率链式法则

$P\left({D,I,G,S,L} \right) = P\left( D \right)P\left( {I\left| D \right.}\right)P\left( {G\left| {D,I} \right.} \right)P\left( {S\left| {D,I,G} \right.}\right)P\left( {L\left| {D,I,G,S} \right.} \right)$

贝叶斯网络链式法则，如图1

图1

$P\left({D,I,G,S,L} \right) = P\left( D \right)P\left( I \right)P\left( {G\left| {D,I}\right.} \right)P\left( {S\left| I \right.} \right)P\left( {L\left| G \right.}\right)$

乍一看很容易觉得贝叶斯网络链式法则不就是大家以前学的链式法则么，其实不然，后面详述。

上一讲谈到了概率分布的因式分解

$\begin{array}{l}P\left({X,Y\left| Z \right.} \right) = P\left( {X\left| Z \right.} \right)P\left({Y\left| Z \right.} \right)\\P\left({X\left| {Y,Z} \right.} \right) = P\left( {X\left| Z \right.} \right)\\P\left({Y\left| {X,Z} \right.} \right) = P\left( {Y\left| Z \right.} \right)\\P\left({X,Y,Z} \right) \propto {\phi _1}\left( {X,Z} \right)\phi \left( {Y,Z} \right)\end{array}$