【WWW2021】高效的非抽样知识图谱嵌入

来源:专知

本文附论文,建议阅读5分钟NS-KGE的基本思想是在模型学习中考虑KG中的所有负面实例,从而避免负面抽样。

知识图谱(KG)是一种灵活的结构,能够描述数据实体之间的复杂关系。目前,大多数KG嵌入模型都是基于负采样进行训练的,即模型的目标是最大限度地增加KG内被连接实体的某些相似度,同时最小化被采样的断开实体的相似度。负抽样通过只考虑负实例的子集,降低了模型学习的时间复杂度,这可能会由于抽样过程的不确定性而无法提供稳定的模型性能。为了避免这一缺陷,我们提出了一种新的KG嵌入高效非采样知识图谱嵌入框架(NS-KGE)。其基本思想是在模型学习中考虑KG中的所有负面实例,从而避免负面抽样。框架可应用于基于平方损失的知识图谱嵌入模型或其损失可转换为平方损失的模型。这种非抽样策略的一个自然副作用是增加了模型学习的计算复杂度。为了解决这一问题,我们利用数学推导来降低非采样损失函数的复杂度,最终为我们提供了比现有模型更好的KG嵌入效率和精度。在基准数据集上的实验表明,NS-KGE框架在效率和准确率方面均优于传统的基于负采样的模型,该框架适用于大规模知识图谱嵌入模型。

链接:

https://www.zhuanzhi.ai/paper/a63903c464665db631cd3167d395a238

编辑:文婧

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值