PRML-贝叶斯网络

把贝叶斯网络当做图来描述的

宏观一下，google显示此图

用图表示概率分布，和马尔科夫链甚是有渊源，联想到有人用neo4j图数据库的ER图解决n-gram问题，肯定都是一个套路

---

给出$p(a,b,c)$的联合分布形式

$$p(a,b,c) = p(c|a,b)p(a,b)$$
继续
$$p(a,b,c) = p(c|a,b)p(b|a)p(a)$$
得到下图基本表示

$$条件概率表示中的‘条件’用links链接起来$$
这里存在一个矛盾，公式里左边是对称的，而右边变成有向的了，看下文。

我们可以想象，如果联合概率分布扩展到k维，很显然会是一个全连接graph，但实际上现实中很大部分是下图表述

分布为$p(x_1)p(x_2)p(x_3)p(x_4|x_1,x_2,x_3)p(x_5|x1,x_3)p(x_6|x_4)p(x_7|x_4,x_5)$,所以我们可以用图(无环，即DAG(directed acyclic graph))表示任意的概率分布。

对于之前的多项式拟合问题，加上点随机元素，全连接的联合概率分布可以更泛华的表述为

$$p(t,w|x,\alpha,\sigma ^{2}) = p(w|\alpha)\prod_{n=1}^{N}p(t_n|w,x_n,\sigma ^{2})$$
这里的 $x$和$\alpha$在图里表示什么呢


这两附图的区别就是多了随机性，也给出了 $x$和$\alpha$的解释，如果在这里加上对随机量的其他分布，网络节点的表述会更全面。