机器学习算法——概率图

1.概率图模型probabilistic graphical model 就是一类用图来表达随机变量相关关系的概率模型：

用一个结点表示一个或者一组随机变量。
结点之间的边表示变量间的概率相关关系。
概率图描述了：联合概率分布在所有随机变量上能够分解为一组因子的乘积的形式，而每个因子只依赖于随机变量的一个子集。

2.根据边的性质不同，概率图模型可以大致分为两类：

使用有向无环图表示随机变量间的依赖关系，称作有向图模型或者贝叶斯网络Bayesian network。

有向图对于表达随机变量之间的因果关系很有用。

使用无向图表示随机变量间的相关关系，称作无向图模型或者马尔可夫网络Markov network 。

无向图对于表达随机变量之间的软限制比较有用。

3.概率图模型的优点：

提供了一个简单的方式将概率模型的结构可视化。
通过观察图形，可以更深刻的认识模型的性质，包括条件独立性。
高级模型的推断和学习过程中的复杂计算可以利用图计算来表达，图隐式的承载了背后的数学表达式。