Learning to Exploit Long-term Relational Dependencies in Knowledge Graphs
1 问题
目前只是图谱补全的内容是主要是基于triple-level,所谓的triple-level指得是只关注三元组的信息,仅仅只利用三元组的信息,而不增加任何信息,这么就会产生的一个问题,难以抓取关系的长期依赖关系,所有triple-level不能够传递丰富的信息,提出了基于只是图谱补全或者实体对齐。该模型选择lstm模型,进行扩展,实现长期的依赖,但是为了使信息更加丰富,已经区分实体和关系,而不是仅仅像NLP中的数据处理,把一条路径当作sequence,这么使得实体和关系无法区分开。因此作者采取skip方式进行使用加以区分实体和关系,skip方式类似于残差网络,但是略有不同。
由于研究方式是知识图谱补全领域,对于实体对齐内容,就直接略过,不进行研究。
2 模型
2.1 前提
为了增强知识图谱的连接性,增加逆关系, ( U n i t e d K i n g d o m , c o u n t r y − , T i m B e r n e r s L e e , e m p l o y e r , W 3 C ) (United Kingdom, country^-, Tim Berners Lee, employer, W3C) (UnitedKingdom,country−,TimBernersLee,employer,W3C)
2.2 模型图
在使用时将整个模型传到LSTM中,所谓的skip增加一些内容,对于关系的LSTM之后的结果,加上与当前r相关实体信息。然后去预测下与r相关的尾实体。
其skip公式如下:
2.3 损失函数
其损失函数如下:
损失函数是计算所预测结果的损失函数,
x
1
,
x
2
,
.
.
.
.
x
n
x_1, x_2, ....x_n
x1,x2,....xn包括预测
关
系
x
2
,
x
4
.
.
.
.
.
关系x_2, x_4.....
关系x2,x4.....,以及预测实体
x
3
,
x
5
.
.
.
.
.
.
x_3,x_5 ......
x3,x5......等内容之和。
3 总结
基于路径的知识图谱补全,可以增强其能表达能力。