【Inductive Relation Prediction】归纳关系预测相关论文总结

已于 2024-02-18 16:20:02 修改
阅读量1.3k 收藏 7
点赞数 1
文章标签： 知识图谱 人工智能 python
于 2022-08-05 09:51:33 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_30265929/article/details/125461145
版权

归纳关系预测 inductive relation prediction

只记录20年开始的论文，早期的RuleN之类的论文不提
归纳推理：从知识图谱中自动归纳出逻辑规则进行缺失关系预测

文章目录

一、Inductive Relation Prediction by Subgraph Reasoning

ICML，2020
模型思想
基本思想：设要输入的三元组为在这里插入图片描述 其中，u、v为目标节点，rt为目标关系。首先是子图提取，在整张图中获得u、v节点的k跳邻居集合在这里插入图片描述，取其并集并去掉孤立的节点和目标节点之间长度超过k的路径(剪枝)得到其封闭子图，如上图2所示(图1未进行剪枝)；
       然后构建这个子图中节点的向量表征，对节点i的表征为(d(i,u),d(i,v))，其中d(i,u)为表示节点i和u之间的最短路径，节点u、v分别表示为(0,1)、(1,0)，然后使用onehot表示进行拼接得到节点最终表示向量；
       将节点信息和封闭子图信息输入到GNN中进行计算，第k层的计算过程如下：
计算边r的注意力权重在这里插入图片描述
在这里插入图片描述

这里在这里插入图片描述和在这里插入图片描述是边r所对应的头尾实体在k-1层的表征向量，在这里插入图片描述即前面拼接所得节点向量，在这里插入图片描述是学到的关系注意力embedding

       然后进行信息聚合：
              在这里插入图片描述

其中，在这里插入图片描述是节点t的出边指向的节点集合

       聚合节点信息：
              在这里插入图片描述
       第L层的整张封闭子图信息：
              在这里插入图片描述
       最后经过一个线性层进行打分：
              在这里插入图片描述
特点：没有用到节点信息，从图中提取出规则信息，这样可以使模型处理在训练节点没有出现过的实体

二、Communicative Message Passing for Inductive Relation Reasoning

注：为什么要引入有向的封闭子图，原先无向的封闭子图有什么问题？无向的封闭子图无法处理对称关系的情况，对于三元组(h,r,t)和(t,r,h)它们会有相同的子图，但是这两个三元组只有一个正确。
CoMPILE
基本思想：设要打分的三元组为在这里插入图片描述，要预测目标实体和在这里插入图片描述
是否存在关系在这里插入图片描述；首先找出在这里插入图片描述的h跳出边节点集合和在这里插入图片描述的h跳入边节点集合取交集，即可得到带方向的最大路径长度为h+1的封闭子图的节点集合，据此在节点之间加入有向边形成有向封闭子图；节点的表示和GraIL相同，用节点到两个目标节点的相对最短距离的onehot向量拼接表示，即第i个三元组头(/尾)实体的表征在这里插入图片描述，边的初始表征为在这里插入图片描述；然后将子图信息、节点信息和边信息输入到模型中(改进的GNN，借鉴了CMPNN的思想)，初始化节点和边的表征在这里插入图片描述
，其中f1是激活函数；模型一共迭代l次，第k次的计算如下：用注意力机制获得边表征(此处的计算只为更新节点的表示，边会在后面更新)在这里插入图片描述在这里插入图片描述
然后更新该三元组中节点表示在这里插入图片描述
这里的在这里插入图片描述以及后面会用到的在这里插入图片描述分别是tail-edge、head-edge和relation-edge指示矩阵，以在这里插入图片描述为例，若第i个entity元素是第j个edge所指向的尾实体，则在这里插入图片描述，否则为0。要注意的是在最后一次迭代，实体的表征要由GRU网络计算在这里插入图片描述
边的更新需要用到前面计算得到更新后的节点表示在这里插入图片描述
在这里插入图片描述

其中f2也是个激活函数；经过l次迭代后得到实体和关系的表征向量，最后是打分函数在这里插入图片描述得到三元组的分数进行判断。
特点：为避免不对称和反对称关系，引入了有向的封闭子图；另外对图网络进行改进，将边和实体表示都分别进行更新，其中边起着主要作用。

三、INDIGO: GNN-Based Inductive Knowledge Graph Completion Using Pair-Wise Encoding

在这里插入图片描述
基本思想：首先要判断一系列的候选三元组(超过1个，且测试集三元组内实体可以在训练集中不出现)是否正确，要对整张图进行重构，形成右边的图以及右图中各节点的特征向量。重构过程：节点变成实体对，也就是原知识图谱中三元组构成一个节点，另外在重构过程中中也要加入需要判断的三元组，每个实体对中实体次序按词典固定(对实体进行排序，如G开头的实体在X实体前)，如出现了(G,S)不再出现(S,G)，另外词典中G的次序≤S；然后是每个节点的特征构建，在这张图中只有lives和student两种关系，因此对于实体对(G,X)(即Greece,Xenophon)，它的特征为[0,0,1,0]，原因是(Greece,lives,Xenophon)不成立，(Greece,student,Xenophon)不成立，(Xenophon,lives, Greece)成立，(Xenophon, student, Greece)不成立，这里的不成立是对于原知识图谱而言的，对于候选三元组，它的特征全为0。将重构后的图对应的处理后的邻接矩阵 A G A_G A

最低0.47元/天 解锁文章
dcscjfaee
关注
  • 1
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
论文浅尝 - ICML2020 | 基于子图推理的归纳式关系预测
开放知识图谱
10-25 3482
论文笔记整理：陈名杨，浙江大学在读博士生，主要研究方向为知识图谱表示学习。论文来源：ICML 2020Introduction当前在知识图谱上（KnowledgeGraph，KG）进行关...
探索关系预测：一个深度学习在知识图谱中的应用实践
最新发布
gitblog_00005的博客
04-17 427
探索关系预测：一个深度学习在知识图谱中的应用实践 项目地址:https://gitcode.com/deepakn97/relationPrediction 在这个数字化的时代，知识图谱作为一种有效的信息组织和检索方式，正在不断推动着人工智能的发展。而relationPrediction正是一个专注于知识图谱中关系预测的开源项目。本文将从技术角度出发，深入解析该项目的核心原理、应用场景和独特之处...
论文阅读《2020ICML：Inductive Relation Prediction by Subgraph Reasoning》
Jiawen9的博客
07-21 488
知识图谱中关系预测的主要范式涉及实体和关系的潜在表示(即嵌入)的学习和操作。然而，这些基于嵌入的方法并没有显式地捕获知识图谱背后的组合逻辑规则，并且它们仅限于直推式设置，在直推式设置中，实体的全部集合必须在训练期间已知。本文提出了一种基于图神经网络的关系预测框架GraIL，它在局部子图结构上进行推理，并具有很强的归纳偏差来学习实体独立的关系语义。
Inductive Relation Prediction with Logical Reasoning UsingContrastive Representations
weixin_44466434的博客
02-21 451
1
【Neo4j】第 9 章：预测关系
sikh_0529的博客
10-14 833
图是数据表示的一种特定形式。在前面的章节中，我们学习了如何以无监督或半监督的方式从图中提取信息。我们探索了如何将这些信息用作经典机器学习模型的特征，其中节点是观察值。在本章中，我们将处理一种只有图才有可能解决的全新类型的问题：链接预测。在准确了解链接预测问题是什么以及如何将其应用于不同的案例之后，我们将了解 Graph Data Science 库中实现的功能，这可以帮助我们找到问题的解决方案。最后，我们将使用 Python 及其数据科学工具箱研究一个真实的示例应用程序问题。技术要求如果您使用的是。
基于注意力机制的知识图谱关系预测 ACL 2019
u013602059的专栏
07-21 6061
论文链接：https://arxiv.org/pdf/1906.01195.pdf 代码链接：https://github.com/deepakn97/relationPrediction 论文来源：ACL 2019 摘要 背景：近年来知识图谱(KGs)的激增，再加上实体之间缺少关系（链接）形式的不完整或部分信息，引发了大量关于知识库补全(也称为关系预测)的研究。最近研究表明，基于CNN的模型能够生成更丰富、更有表现力的特征嵌入，在关系预测方面也有很好的表现。 问题：然而，我们观察到这些KG嵌入独立地处理.
ConGLR：Incorporating Context Graph with Logical Reasoning for Inductive Relation Prediction
qq_44866969的博客
10-18 520
ConGLR论文简述
[论文翻译]Topology-Aware Correlations Between Relations for Inductive Link Predictionin Knowledge Graphs
qq_41046238的博客
06-27 1255
【图结构】Topology-Aware Correlations Between Relations for Inductive Link Predictionin Knowledge Graphs（TACT） 0 总结 名称 项目 题目 Topology-Aware Correlations Between Relations for Inductive Link Predictionin Knowledge Graphs 中文 知识图中归纳链接预测关系的拓扑感知关联 来源 AAA
基于树的数据网络归纳分类模型-研究论文
06-10
数据网络是语义网 (SW) 的维度之一，代表了巨大的信息来源，这促使人们越来越关注机器学习方法在解决概念学习、链接预测等任务方面的形式化和... 3）该框架可用于解决相关问题，例如预测具有有限范围的给定属性的值。
Neural Inductive Matrix Completion with Graph Convolutional Networks for miRNA-disease Association Prediction
02-11
Neural Inductive Matrix Completion with Graph Convolutional Networks for miRNA-disease Association Prediction
使用归纳法设计算法 论文翻译
07-27
它包括两个步骤：基础步骤（base case）和归纳步骤（inductive step）。基础步骤证明命题对于一个初始值（通常是0或1）是正确的，然后归纳步骤假设对于某个较小的n，命题成立，并推导出对于n+1的情况也必须为真。...
论文笔记-2014ECML-ImportanceWeighted Inductive Transfer Learning for Regression.pdf
11-05
论文摘要：我们考虑了数据集移动的归纳转移学习，在这种情况下，两个采样的，但密切相关的数据集的分布不同。当需要预测的目标数据稀缺时，就会使用另一个次要数据集的数据来改进预测。迁移学习试图通过适当补偿这样...
基于归纳表示的协同过滤图卷积网络_Inductive Representation Based Graph Convolutio
01-25
这种表示是传递性的，意味着模型只能处理训练集中出现过的用户和物品，对于新用户或新物品，模型无法进行预测，缺乏归纳推理（inductive reasoning）的能力。此外，模型参数的数量与用户和物品的数量成正比，这使得...
CCKS2023 开放环境下知识图谱构建与补全评测任务二：归纳式知识图谱关系推理
u013250861的博客
06-26 465
测试集中的实体都是训练集中没见过的新实体。对于每一个需要被测试的查询三元组，数据会给出需要被预测尾实体的头实体和关系（“head_rel”），以及尾实体的候选集合（“tails”），模型需要给出候选尾实体的排序，越有可能是真实的尾实体，排序越靠前。根据问题定义，测试数据集中的实体都是训练阶段没有见过的，所以测试集中实体编号和训练集实体编号无法对应，是单独重新编号的，而测试集中关系编号是可以和训练集对应的。在查询集中，给定一个头实体关系对（h, r），以及相应的尾实体的候选集合，模型输出候选集合的排序。
文献阅读记录（三十五）2023-08-27
yangmoua的博客
08-28 85
这些方法本质上是归纳的，这些方法本质上是归纳的，因为规则与节点身份无关，但这些方法存在可扩展性问题，并且由于其基于规则的性质而缺乏表达能力。在NeuralLP的基础上，最近提出了DRUM，它可以学习更准确的规则，这套方法构成了在归纳环境中的基线。RotateE、complEx、convE和TransE是为训练集中的每个节点训练浅嵌入的一些代表性方法，使得这些低维嵌入可以检索图的关系信息，本文方法体现了一种可供选择的归纳偏见来显式编码结构规则。本文提出的方法可以解释为上述方法的有向多关系知识图方法的扩展。
[论文笔记]INDIGO: GNN-Based Inductive Knowledge Graph Completion Using Pair-Wise Encoding
Yulki的博客
04-11 338
经典方法：给出kG在向量空间的表示，用预定义的打分函数补全图谱。inductive : 归纳式，从特殊到一半，在训练的时候只用到了训练集的数据transductive:直推式，在训练的时候用到了训练集和测试集的数据，但是不知道测试集的标签，每当有新的数据进来的时候，都需要重新进行训练。相当于是给了一些测试数据的情况下，结合已有的训练数据，看能不能推广到测试数据上。预测的三元组可以直接在GNN的最后一层读出来，无需额外的组件活打分函数。Attention：文中提到的意思正好与上述想法。
基于知识图谱的关系预测技术研究进展
Snusifg的博客
01-23 397
此外，还需要进一步研究如何解决数据稀疏性、关系多样性和模型可解释性等问题，以推动基于知识图谱的关系预测技术的发展，并推动人工智能在各个领域的应用。知识图谱是一种结构化的知识表示形式，可以通过建立实体之间的关系来描述现实世界中的各种概念和实体之间的联系。关系预测是知识图谱中的一个重要任务，其目标是根据已有的知识来推断未知实体之间的关系。关系预测任务的核心是根据已有的三元组，预测实体之间的关系类型。为了解决这个问题，研究者们提出了多种关系表示方法，包括基于规则的方法、基于特征的方法和基于嵌入的方法等。
ICLR'22 | 图机器学习最近都在研究什么？
zenRRan的博客
11-22 5438
每天给你送来NLP技术干货！来自：图与推荐 ICLR由Yann LeCun和Yoshua Bengio等大牛发起，在2013年成立了第一届会议，会议开创了公开评议机制（open revie...
Transductive和 Inductive
07-28
Transductive学习和Inductive学习是机器学习中两种不同的学习方法。 Transductive学习是一种基于已知标记数据的学习方法，但只关注于对未标记数据的预测。它试图通过利用已有的标记数据来推断未标记数据的标签。具体来说，Transductive学习通过建立一个模型来对已知标记数据进行建模，并利用这个模型对未知标记数据进行预测。它的目标是尽可能准确地预测未知标记数据的标签，而不考虑对整个数据集的泛化能力。 Inductive学习则更注重于从已知标记数据中学习一个通用的模型，以便在未见过的数据上进行准确的预测。Inductive学习通过从已知标记数据中提取特征和模式，建立一个能够泛化到未知数据的模型。它的目标是通过已知标记数据的学习，使得模型具有对未知数据进行准确预测的能力。 总结起来，Transductive学习关注于预测未知标记数据的标签，而Inductive学习则更关注于从已知标记数据中学习一个泛化能力强的模型。两者在处理未标记数据时有不同的目标和方法。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值