参考阅读: https://blog.csdn.net/sinat_28978363/article/details/105298286
摘要
图卷积网络(GCNs)最近被证明在建模图结构数据方面非常成功。然而,主要的焦点是处理简单的无向图。多关系图是一种更一般和普遍的图形式,其中每条边都有一个标签和与之相关的方向。大多数现有的处理此类图的方法都存在过度参数化的问题,并且仅限于学习节点表示。在本文中,我们提出了一种新的图卷积框架CompGCN,它将节点和关系共同嵌入到关系图中。CompGCN利用了来自知识图谱嵌入技术的各种实体-关系组合操作,并根据关系的数量进行缩放。它还扩展了现有的几种多关系GCN方法。我们在节点分类、链接预测和图分类等多个任务上评估了我们提出的方法,并取得了明显的优越结果。我们提供COMPGCN的源代码,以促进可重复的研究。
1 引言
图是最具表现力的数据结构之一,已被用于建模各种各样的问题。传统的神经网络架构,如卷积神经网络(Krizhevsky et al., 2012)和循环神经网络(Hochreiter & Schmidhuber, 1997)被限制只能处理欧几里德数据。最近,图卷积网络(GCNs) (Bruna et al., 2013;Defferrard等人,2016)已被提出来解决这一缺点,并已成功应用于几个领域,如社交网络(Hamilton等人,2017),知识图(Schlichtkrull等人,2017),自然语言处理(Marcheggiani & Titov, 2017),药物发现(Ramsundar等人,2019),晶体性质预测(Sanyal等人,2018)和自然科学(Fout等人,2017)。
然而,现有的大部分关于GCNs的研究(Kipf & Welling, 2016;Hamilton等人,2017;V eliˇckovi´c等人,2018)专注于学习简单无向图中的节点表示。一个更普遍和普遍的图类是多关系图1。这类图的一个显著例子是知识图。现有的大多数基于GCN的处理关系图的方法(Marcheggiani & Titov, 2017;Schlichtkrull等人,2017)受到过度参数化的影响,只能学习节点表示。因此,这种方法并不直接适用于需要关系嵌入向量的链接预测等任务。学习图中关系表示的初步尝试(Monti等人,2018年;Beck等人,2018年)在节点分类和神经机器翻译等任务上表现出了一些性能提升。
关于嵌入知识图(KG)已有广泛的研究(Nickel等人,2016;王等等。, 2017),其中节点和关系的表示是共同学习的。这些方法局限于使用链接预测目标的学习嵌入。尽管GCNs可以从任务特定的目标(如分类)中学习,但它们的应用在很大程度上局限于非关系图设置。因此,需要一个框架,可以利用KG嵌入技术学习特定任务的节点和关系嵌入。在本文中,我们提出了一个新的多关系图的GCN框架,该框架系统地利用知识图嵌入技术中的实体-关系组合操作。COMPGCN通过联合学习图中节点和关系的向量表示,解决了先前提出的GCN模型的不足。图1给出了COMPGCN的概述。我们的工作贡献归纳如下:
因此,需要一个能够利用KG嵌入技术来学习特定于任务的节点和关系嵌入的框架。在本文中,我们为多关系图提出了一个新的GCN框架,该框架系统地利用了知识图嵌入技术中的实体-关系组合操作。通过联合学习图中节点和关系的向量表示,COMPGCN解决了以前提出的GCN模型的缺点。图1给出了COMPGCN的概述。我们工作的贡献可总结如下:
- 我们提出了一种将多关系信息整合到图卷积网络中的新框架COMPGCN,该框架利用知识图嵌入技术的各种合成操作,将节点和关系共同嵌入到图中。
- 我们证明了COMPGCN框架概括了几种现有的多关系GCN方法(命题4.1),并随着图中关系数量的增加而扩展(章节6.3)。
- 通过在节点分类、链接预测和图分类等任务上的大量实验,我们证明了所提方法的有效性。
3 回顾
在本节中,我们将简要概述用于无向图的图卷积网络(GCNs)及其向有向关系图的扩展。
4 CompGCN细节
7 结论
在本文中,我们提出了一种新的基于图卷积的多关系图框架COMPGCN,该框架利用知识图嵌入技术中的各种合成算子来联合嵌入图中的节点和关系。我们的方法推广了现有的多关系GCN方法。此外,我们的方法通过跨层共享关系嵌入和使用基分解来缓解过度参数化的问题。通过对知识图链接预测、节点分类和图分类任务的大量实验,我们证明了COMPGCN优于现有的基于GCN的方法,并证明了其随着关系数量的增加而具有可扩展性。
总结