概率图模型

　　首先，介绍一下概率图的概念。

　　概率图模型是一种通用化的不确定知识表示和处理方法。它是在概率模型的基础上，使用基于图的方法来表示概率分布。

　　概率图模型，是一个图，结点表示变量，结点之间的边表示概率关系。根据图模型的边是否有向，概率图模型通常被划分成有向概率图模型和无向概率图模型。
　　有向图模型分为静态贝叶斯网络、动态贝叶斯网络（隐马尔可夫模型、卡尔曼滤波器等）；无向图模型主要指马尔可夫网络，包括吉布斯/玻尔兹曼机，条件随机场等。
　　动态贝叶斯网络用于处理随时间变化的动态系统中的推断和预测问题，例如用隐马尔可夫模型在语音识别、中文分词、词性标注上的应用。
　　马尔可夫网络中的条件随机场，广泛用于自然语言处理中的序列标注、特征选择、机器翻译等任务。
　　插一句，生成式模型和判别式模型的区别，就看是不是要先生成联合分布。
　　下面顺便介绍一下贝叶斯网络。
　　贝叶斯网络又称为信度网络或信念网络，是一种基于概率推理的数学模型，其理论基础是贝叶斯公式，其目的是通过概率推理处理不确定性和不完整性问题。
　　一个贝叶斯网络就是一个有向无环图，结点表示随机变量；边表示条件依存关系，箭头指向的结点依存于箭头发出的结点。
　　两个结点没有连接关系表示两个随机变量能够在某些特定情况下条件独立，而两个结点有连接关系表示两个随机变量在任何条件下都不存在条件独立。
　　条件独立是贝叶斯网络所依赖的一个核心概念。