【概率图与随机过程】17 概率图模型导论

1.概率图的最基本含义

从这一讲开始，我们会较为系统的介绍概率图模型的内容，首先我们从整体上对概率图模型进行概要性的把握。

概率图，从字面上理解就是“概率”+“图”，“概率”指的就是概率模型，在前面的几章里，我们介绍了一些非常基础的概率模型，我们发现把概率引入到机器学习的世界里是一件非常自然的事情，这样我们就能够实现对已有的数据进行聚类（例如混合高斯模型），或者对未知的数据进行预判（例如朴素贝叶斯、逻辑回归等），这是机器学习的核心思想。

“图”和我们在数据结构中学习过的图是一个意思，他包含了有向图、无向图。

对上述的图结构赋予概率的内涵，即将概率嵌入到图结构当中，形成概率图模型。这么干，一方面会使得表达上更为清晰直观，另一方面可以用图结构把概率的特征体现的更加明显，以便于我们去构造一些更加高级的模型。

2.经常处理的概率和运算法则

用来描述样本的数据往往是多维的，因此在现实中一般都是用高维、多元的随机变量来表示数据。例如一个 p