今天这篇文章名字《Learnable convolutional attention network for knowledge graph completion》
本文的主要贡献:
1.提出了KGCAT模型, 在注意力机制前面添加了卷积操作,既能为中心实体提供结构信息,又能避免信息冗余;
2.KGCAT模型是一个可学习的模型,它融合了三种类型的GNN模型,并且通过可学习的参数自由的在GNN模型之间切换;
3.提出了一种可学习的信息传递模型结构,主要用于三元组之间的信息传递;
4.在公开数据集上进行了大量实验,并取得了不错的效果。
如上图所示:
1.在encoder部分,模型分为两部分,分别为信息传递部分,主要是聚合节点之间和临边的特征;其次为卷积注意力部分,主要为学习不同中心节点之间的注意力信息和交互作用;最后输出三元组的组合特征信息;
2.在decoder部分,模型主要为基于encoder部分进行解码,为三元组特征进行打分排序,进而进行实体之间的关系预测,从而进行实体链接和三元组补全。
1.公式4为通过GCN改进而来;
2.公式5为通过GAT改进而来;
公式6为改进版45公式,解决了GCN和GAT的弊端
公式7 融合了以上三部分结构,通过可学习参数自由切换GNN模型
可学习消息传递聚合结构,公式10为89的改进版,既有特征相加,又有特征拼接
实验结果