【Traditional Machine Learning】马尔可夫网络

马尔可夫网络

马尔可夫网络（也叫做马尔可夫随机场、概率无向图模型）与贝叶斯网络有相似之处，它也可用于表示随机变量之间的依赖关系。但它又叶斯网络有所不同。一方面它可以表示贝叶斯网络无法表示的一些依赖关系，如循环依赖；另一方面，它不能表示贝叶斯网络能够表示的某些关系，如推导关系。

马尔可夫性质
马尔可夫性质指的是将一个随机变量状态序列按时间先后顺序展开后，在给定现在状态及所有过去状态情况下，其未来状态的条件概率分布仅依赖于当前状态；换句话说，在给定随机变量现在状态时，它的取值与过去状态（即状态转移的历史路径）无关，那么此随机过程即具有马尔可夫性质。

在马尔可夫随机场中定义全局马尔可夫性、局部马尔可夫性和成对马尔可夫性。

 

势函数
在无向图中，对每个团定义一个势函数，用来表示团内随机变量之间的相关关系。势函数取自物理学中的势能概念，势能在物理中指的是储存于一个系统内潜在的能量。在无向图中的势函数使团内随机变量偏向于具有某些相关关系。例如，假设团具有势函数

则说明该团的势函数偏向使&具有相同的取值。势函数刻画了局部变量之间的相关关系，它应该是非负的函数，为了满足非负性常用指数函数来定义势函数，即

H(x) 是一个定义在变量 x上的实值函数，常见形式为：