论文阅读《Triple Trustworthiness Measurement for Knowledge Graph》

https://arxiv.org/abs/1809.09414

论文研究背景

两个“不可避免” 知识图谱在构建中不可避免的引入噪声和冲突 基于知识图谱的任务假设知识图谱中的知识是完全正确的，不可避免的会带来潜在的偏差

两个“挑战” 对于KG中的一条知识，特别是来自专业领域的知识，没有经过实践检验或没有严格的数学证明，很难清楚地确定是否正确。 知识图谱中的实体之间存在着错综复杂的关系，不同实体之间可以发生相同的关系，多个关系可以同时关联到同一个实体 。

本文想要建立一个知识图谱三元组可信度度量模型 ， 量化知识图谱的语义正确性和所表达事实的真实程度。模型是一个神经网络结构 它综合三元组中的内部语义信息和KG的全局推理信息， 实现实体级、关系级、KG全局级三个层次上的可信性度量和融合。

[实体层面]实体对之间可能存在关系吗?

本文根据资源分配的思想，提出了一种算法ResourceRank。

算法思想：如果实体对(h,t)之间的关联更强，更多的资源会在图中从头部h通过所有关联路径传递到尾部t。 聚合到t的资源数量巧妙地表示了从h到t的关联强度。

算法主要包括三个步骤: ①构建以头部实体h为中心的有向图。 ②迭代图中资源的流向直到收敛并计算出尾部实体t的资源保留值。 ③综合其他特征并输出(h, ?,t)的可能性。

基于PageRank算法模拟资源流动直至分布稳定。尾部实体上的资源值为R(t|h)计算如下:

我们构造一个特征向量V。经过激活函数后，向量被转化为一个概率值RR(h,t)，表示头实体h和尾实体t之间可能存在一种或多种关系的可能性：

[关系层面]关系r是否会发生实体对(h,t)之间?

上述估计器只能测量实体对之间发生不确定关系的可能性，而不能测量是哪种关系。

受词嵌入空间中的平移不变性现象的启发，将KG中的关系视为实体之间的某种平移; 即关系向量r作为头实体嵌入h和尾实体嵌入t之间的转换操作。

比如：一个值得信赖的三元组(h,r,t)，应该满足h + r ≈ t。（TransE）

算法主要包括2个步骤: ①利用表示学习技术实现实体或关系的低维分布式表示。②使用修改后的sigmoid函数将E(h,r,t)转换为实体对(h,t)构成关系r的概率。

δr是一个与关系r相关的阈值 λ是一个用于平滑的超参数，可以随着模型训练动态调整。

[KG全局层面]KG中的相关三元组能否推断三元组是值得信赖的?

受“社会身份”理论的启发，做一个比喻:将KG视为一个社会群体，其中每个三元组都是一个个体。其他个体对目标个体(目标三元组)的认同程度反映了目标个体是否能恰当地融入社会(KG)。

我们设计了一个可达路径推理算法来满足它。从头实体到尾实体之间存在大量的多步路径，这些路径表明了三元组之间的语义相关性和复杂的推理模式。

可达路径选择:在大规模的KG中，与三元组相关联的可达路径的数量可能是巨大的。对所有路径进行权衡是非常消耗资源的。同时，并不是所有的路径都是有意义和可靠的。

可达路径表示:选择路径后，需要将每条路径映射为低维向量，以便后续计算。我们考虑路径中整个三元组，不仅包括关系，还包括头、尾实体，每个三元组的三个元素的嵌入被连接成一个单元。

我们使用RNNs来学习路径中包含的语义信息。RNN层通过考虑从s1到st的前向信息对st进行编码。 我们使用输出向量ht的值来表示每条路 径的语义信息，缝合输出的ht将topk条路径中的h拼接在一 起形成一个向量 。

融合三个估计器得到最终的三元组置信度

将前面三部分的输出拼接成每个三元组s=(h,r,t)的特征向量f(s)。

向量f(s)将输入到融合器中，并通过多个隐藏层进行转换。输出层是一个二元分类器，将y=1的标签分配给真元组，将y=0的标签分配给假元组。

 噪声/错误从哪来？

考虑到现实世界中大多数错误来自相似实体之间的误解的经验。

将正三元组中的一个实体或关系被三元组集合中的另一个实体或关系随机替换，确保替换后生成的负三元组不在三元组集合中。

实验结果

 

 

虽然是很多年前的文章了，但是用作三元组的质检还是一个很好的思路，考虑了三个方面的置信度检测，并且整个部分是非耦合的，可解释性也比较好。

GitHub地址：

https://github.com/TJUNLP/TTMF