普适的多关系的图卷积网络(GEM-GCN)
普适体现在什么地方?
在读完这篇论文,我的理解是,由于论文中提出的新的GCN框架可以适用于多种知识图谱表示的模型
1. 动机
- 以往的知识图谱的表示学习,例如TransE,DistMult,ComplEx,RotatE等,在学习实体和关系的表示的时候存在一个问题:三元组被单独的拿来训练,换句话说,这些方法没有利用知识图谱丰富的结构信息来训练模型。
- 后来有人使用GCN来学习知识图谱的实体和关系的表示,例如VR-GCN,COMP-GCN ,仍然存在一个问题:在更新关系的表示的时候,没有利用实体的表示。
- 为了解决以上的问题,本文利用GCN来同时学习实体和关系的表示,并且在学习关系的表示用到了邻居信息
2. 模型架构
模型解释:输入实体和关系的表示(用截断正态分布初始化),输出的是更新后的实体和关系的表示
- 实体表示的更新规则:
公式解释:f表示使用的三元组的评分函数,in表示以该节点为尾实体的所有三元组,out表示以该实体为头实体的所有三元组
整体上的意思就是,在更新某个实体的表示的时候,同时聚合它为尾实体时所拥有的头实体和关系的表示和它为头实体时所拥有的尾实体和关系的表示,这样就得到了一个聚合邻居的表示,然后和原始的实体表示相加(简单来讲),就得到了新的实体表示
- 关系表示的更新规则:
公式解释:f表示使用的三元组的评分函数,N®表示该关系所拥有的三元组
整体上的意思就是,在更新某个关系的表示的时候,聚合它所在三元组的头实体和尾实体的表示,然后和原始的关系表示相加(简单来讲),就得到了新的关系表示
3. 模型的普适性
3.1 CompGCN
当使用本文的框架只需要给出下列前提:
3.2 R-GCN
当使用本文的框架只需要给出下列前提:
3.3 W-GCN
当使用本文的框架只需要给出下列前提:
4. 实验
- 知识图谱对齐
- 知识图谱实体分类
5. 总结
- 本文使用GCN结合知识图谱经典表示学习的方法,包括TransE,DistMult,ComplEx,RotatE等,同时学习到了知识图谱的实体表示和关系表示,以往利用GCN学习关系表示没有考虑到邻居实体的信息,但本文在学习关系表示的时候,聚合了邻居实体的表示。