论文浅尝 | PASSLEAF: 一个用于不确定知识图谱嵌入的基于样本池的半监督学习框架...

1d0a20421a62e9d10935cd6706dd70fd.png

笔记整理:杨露露,天津大学硕士

链接:https://ojs.aaai.org/index.php/AAAI/article/view/16522/16329

动机

在不确定知识图谱的嵌入中,实体之间的每个关系都有一个置信度。鉴于现有的嵌入方法可能会丢弃不确定性信息,或只加入特定类型的得分函数,或在训练中造成大量的假的负样本,本文提出PASSLEAF框架来解决上述问题。

亮点

PASSLEAF框架的亮点主要包括:

1.提出结合不同类型的评分函数来预测关系置信分数的模型。2.提出通过利用与估计的置信分数相关的正负样本的半监督学习模型。

此外,PASSLEAF利用样本池作为生成样本的中转站,进一步增强了半监督学习。实验结果表明,本文提出的框架在置信度评分预测和尾实体预测方面都具有较高的准确率,能够更好地学习嵌入。

概念及模型

PASSLEAF框架主要包括两个主要部分:不确定性预测模型的建立和基于池的半监督学习。

不确定性预测模型的目标是利用现有的知识嵌入评分函数来预测(h, r, t)样本的置信度。本文分别为基于翻译距离和基于语义的方法设计了相应的分数映射函数,并为其配备了损失函数,以形成一个置信度感知的嵌入模型。

基于池的半监督学习框架提供了一种更好的处理未见过样本的方法来缓解假的负样本问题,不仅将不可见的样本作为负样本处理,而且重新评估其潜在的置信度。

此外,本文维护了一个最新的半监督样本池,利用过去的学习经验,使嵌入的学习质量更好。

模型整体框架如下:

bc9243242e98690528467dfaa82b2f2d.png

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
知识图谱transformer是一种基于图谱结构的编码器模型,用于学习和表示知识图谱中的关系。它采用了类似于普通transformer模型的框架,但在结构上有一些差异。通过引用可以看到,知识图谱transformer的框架图与普通transformer模型相似。然而,为了更好地利用图谱中的关系结构,解决了线性/层次约束的问题,作者提出了一种新的Graph Transformer编码器,如引用所述。这种编码器允许模型有效地利用图谱的结构信息,从而更好地学习和表示知识图谱中的关系。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [论文 | 利用图 Transformer 实现基于知识图谱的文本生成](https://blog.csdn.net/TgqDT3gGaMdkHasLZv/article/details/100190240)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [基于生成式预训练Transformer的跨媒体内容生成及知识图谱构建](https://blog.csdn.net/universsky2015/article/details/131468154)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值