论文浅尝 | 面向时序知识图谱推理的循环事件网络

论文提出循环事件网络(RE-NET),用于时序、多关系图结构数据建模,尤其适用于知识图谱推理。该模型结合RNN事件序列编码器和近邻聚合模型,通过考虑实体间的关系和时间依赖来预测未知事件。实验显示,RE-NET在多个数据集上优于其他统计和时序推理方法。
摘要由CSDN通过智能技术生成

论文笔记整理:谭亦鸣,东南大学博士生,研究方向为知识库问答。


640?wx_fmt=png

来源:arXiv (short version accepted at ICLR 2019Workshop on Representation Learning on Graphs and Manifolds)

链接:https://arxiv.org/abs/1904.05530

 

本文提出了一种建模时序、多关系、图结构数据的神经网络方法,称为循环事件网络(RE-NET),该模型由RNN事件序列编码器和近邻聚合模型组成。其中,近邻聚合模型将每一时刻主实体通过关系连接的邻居(一跳或两跳)进行信息聚合,与主实体(Subject)、关系(Relation)的向量表示一同作为RNN的输入,从而实现数据建模,用于预测某时刻主体事件s在关系r上对应的客体事件o,(假定图谱四元组表示为(s, r, o, t),任务目标是预测(s, r, ?, t)或(?, r, o, t)中的?)。

 

思路

本文方法的关键思路包括:

1. 时序图谱可以被看作具有多个相互关系的序列;

2. 实体间的多个相互关系可能发生

知识图谱transformer是一种基于图谱结构的编码器模型,用于学习和表示知识图谱中的关系。它采用了类似于普通transformer模型的框架,但在结构上有一些差异。通过引用可以看到,知识图谱transformer的框架图与普通transformer模型相似。然而,为了更好地利用图谱中的关系结构,解决了线性/层次约束的问题,作者提出了一种新的Graph Transformer编码器,如引用所述。这种编码器允许模型有效地利用图谱的结构信息,从而更好地学习和表示知识图谱中的关系。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *2* [论文浅尝 | 利用图 Transformer 实现基于知识图谱的文本生成](https://blog.csdn.net/TgqDT3gGaMdkHasLZv/article/details/100190240)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *3* [基于生成式预训练Transformer的跨媒体内容生成及知识图谱构建](https://blog.csdn.net/universsky2015/article/details/131468154)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值