笔记整理:郭荣辉,天津大学硕士,研究方向为知识图谱
链接:https://aclanthology.org/2023.acl-long.597/
1、引言
本文发现基于消息传递机制的模型在KGC任务中,消息传递并不是KGC性能提升的最主要原因。
由于KGs固有的图结构,图神经网络( Graph Neural Networks,GNNs )被用来学习实体和关系的嵌入,从而促进KGC。现有的基于MPNN的GNN模型通过在图上的消息传递( Message Passing,MP )过程来更新节点特征,其中每个节点从其邻居收集并转换特征。本文发现,将RGCN、CompGCN和KBGAT模型中的MP替换为简单的MLP,仍然达到了相当的性能。更进一步的,本文仔细研究了这些基于MPNN的模型,发现它们在其他关键组件,如评分函数和损失函数方面也有所不同。为了更好地研究这些组件对模型的贡献,本文进行了综合实验来证明每个组件的有效性。结果表明,评分函数和损失函数的影响更大,而 MP 几乎没有贡献。基于此研究结果,本文开发了建立在 MLP 基础上的集合模型,与基于 MPNN 的模型相比,这些模型能够获得更好的性能;考虑到 MLP 相对于 MPNN 在可扩展性方面的优势,这些研究结果在实践中具有强大的意义。
<