知识补全中图卷积网络的再思考Rethinking Graph Convolutional Networks in Knowledge Graph Completion阅读笔记
本文目录
1.研究背景
- 知识图谱通常不完整,手动查找成本高,需要自动补全技术,很多KGE算法被用来做知识补全
- GCN在图结构数据中应用广泛,能在考虑实体基础上考虑关系,被认为能够提高KGE的性能
- 基于GCN的知识补全模型表现并不如最先进的KGE模型,却引入了额外的计算复杂度,值得思考“GCN在知识补全中的真正优势是什么?”
2.预先工作
- 基于图卷积网络的知识补全模型的通用架构
GCN作为编码器,通过充分捕捉图结构来生成实体和关系的表示,KGE模型作为解码器,根据GCN生成的表示来尽可能恢复(即补全)知识图结构
3.实验设置(探索GCN的优势的实验)
3.1 模型介绍
编码器方面,以三个代表性GCN模型为研究对象:
- RGCN(Relational-GCN)
- WGCN(Weighted-GCN)
- CompGCN
总结上述三个典型模型,得到实体、关系的嵌入的更新过程如下:
(1)聚合图邻域信息(即捕捉图结构信息)
(2)对聚合后的实体表示进行变换
(3)对关系表示进行变换
解码器方面,也使用三种流行的模型作为研究对象: - TransE
- DistMult
- ConvE
3.2 损失函数
二元交叉熵
其中y(h,r,t)是三元组的标签,也就是“真”或者“假”,这里用标签平滑将标签处理为[0,1]间的