MARKOV LOGIC NETWORK基础知识

       统计关系学习（多关系数据挖掘或者概率逻辑学习），是人工智能、数据挖掘和机器学习三个领域结合的产物。统计关系学习结合了关系（逻辑）、拟然推理（不确定性处理）和机器学习（数据挖掘）,目的：挖掘多关系数据中的拟然模型。

       “概率”：知识是基于概率表示和推理机制的，用概率表示统计推理和学习算法，处理不确定性。推理模型包括：贝叶斯网络（BN）、马尔科夫网络（MN）、隐马尔可夫模型（HMM）等。

       “逻辑”：数据的一阶逻辑表示或者数据之间的多关系。

       “学习”：在多关系数据的基础上得到概率关系模型。

统计关系学习方法

（1）基于贝叶斯网的SRL（强相关逻辑）方法。传统贝叶斯网表达能力有限，不能对多关系数据进行处理，将贝叶斯与一阶逻辑或实体关系模型相结合，处理丰富的关系数据。基于贝叶斯的方法有PLP（probabilistic logic program）、BLP(Bayesian logic program)、PRM（probabilistic relational model）等。

（2）基于马尔可夫网的SRL方法。定义了一种马尔可夫网的模版，与赋予权值的一阶逻辑结合，比贝叶斯更灵活的表示现实生活中的关系模型。基于马尔可夫的方法有RMN（relational markkov network）、 MLN(markov logic network)等。

（3）基于随机文法的SRL方法。

（4）基于隐马尔可夫模型的SRL方法。

应用领域：信息抽取、社会网络分析、病毒式营销

markov逻辑网

Markov网络+一阶谓词逻辑 ，统计关系学习模型。

MARKOV网络高效处理不确定性，一阶逻辑简练的描述复杂的知识。马尔可夫逻辑网L是二元组（Fi,Wi）的集合，即每个准则都有权重的一阶谓词逻辑。

markov逻辑网将一阶逻辑的强限制放松，在一阶知识库中，如果世界违反了即使是一个规则，概率就是0。在MLNs中，当一个世界违反知识库中的一个规则，只是代表其发生概率比较小，但未必是0.一个世界违反的公式越少，则发生的概率越大，用公式权值来表示其影响能力。

一阶谓词逻辑

       一阶谓词逻辑：建立在一阶语言（常量、变量、函数和谓词四种类型符号组成）基础上的逻辑体系。在markov逻辑网中放松一阶谓词逻辑的硬性规则，对每个规则附加权重，若一个世界违反其中一条规则，则这个世界存在的可能性降低但不为0。

Friends(x, y) => (Smokes(x) <=> Smokes(y))

常量 ：“Bob”“Anna”。

变量 ：x可以表示任意一个人的名字。

谓词 ：表示域中对象的属性关系，smoke(x,y)。

函数 ：描述对象元祖到对象元祖的映射，x与y之间的映射FatherOf（x,y）。

F1 F2均为公式：

（1）非、交、并、任意、存在

（2）当且仅当F1为假或者F2为真时，F1=>F2（蕴含）为真。

（3）当且仅当F1为真并且F2为真时，F1<=>F2（等价）为真。

markov网

      N维随机变量x={X1，X2，．．．，Xn)联合概率分布模型。包含一个无向图G和定义在G上的一组势函数的集合。假设无向图为G=<X,E>，这里的顶点Xi∈X表示一个随机变量，每一条边<Xi,Xj>∈E表示Xi与Xj之间存在着依赖关系。团：任意两节点之间有边相连，每个团对应一个非负势函数，代表团的一个状态。

markov learning：多个关系库学习权重

参数学习和结构学习。

      参数学习中，尽力去找到满足使相关数据库的拟然值或条件拟然最大的规则的权重。参数学习包括伪最大拟然学习、判别式学习等。

      结构学习中，尽力去学习规则本身，在已经markov网的结构时，往往不需要进行结构学习，只需参数学习得到每个规则的权重。

markov Inference ：推理过程，求每个规则为真的概率

权重已知，对markov逻辑网进行边缘概率、条件概率或最大可能性概率的推理。

L KB是将知识库中所有规则权重都设成无穷大后等到的马尔科夫逻辑网，C KB,F是KB或F出现的常数集合