表示
概率图的表示,或者说建模方法,主要是将问题识别为一组随机变量,然后用图的方式表达这组变量的关系。既然是图,就会有节点和边。节点代表变量,边代表变量之间的关系。根据边是否有方向可以分为有向图和无向图两类。
有向图
有向图也称为贝叶斯信念网络(简称贝叶斯网络或者信念网络,BN)。有向图对应的是一组变量的联合分布关系。当看到一个有向图,可以得出对应的联合分布为:
其中pa就代表所有
比如说,有这样一个贝叶斯网络,包含abc三个节点:
![fcfc03c5dd837163a4550f14195e8bfe.png](https://img-blog.csdnimg.cn/img_convert/fcfc03c5dd837163a4550f14195e8bfe.png)
根据这个图的关系,可以得知
上面这个图中,所有节点之间都有边相连,得到的表达式跟之间的概率乘法公式一致,所以这个图是没有实际信息量的。而贝叶斯网络实际的价值就是告诉我们图中没有哪些边,这个才是额外的信息量。比如说如果我们能把a和b之间连接去掉,那么根据图上的信息,联合概率分布就变成
在贝叶斯网络中表达出来的额外信息主要是条件独立和边缘独立。为了理解这两个概念,考虑对三个变量中有两个变量之间无连接的情况主要有4种:
![aa5529005b939402a81506a278b376d1.png](https://img-blog.csdnimg.cn/img_convert/aa5529005b939402a81506a278b376d1.png)
对于这四种情况,可以分析
比如由图a可得:
如果对照乘法概率公式:
可以得出:
这个就是所谓的边缘独立(写做
然后由图b可得:
再对照乘法概率公式:
可以得出:
这个则是所谓的条件独立(写做
<