利用KP之间的共现矩阵信息构建GAT信息进行关键词生成

题目: Co-occurrence graph based hierarchical neural networks for keyphrase
generation

前沿:
这篇文章感觉能够算是一个KP领域里程碑式的文章,类似我今天看的前一篇文章,主要是在寻找同一篇文章的KP之间的关系。Keyphrase Generation With CopyNet and Semantic Web获取的KP关系是在不同文章之间构建KP词表,然后获取KP之间的强联系,获取方式包括共现矩阵,词表征。本文则不是,这篇文章的出发点是通过GAT网络来加强各个不同KP之间的强关系,注意这里面的各个不同KP之间关系是通过一篇文章的KP获取的。

创新点:
本文创新点在于:1.充分利用目标短语信息;2.利用目标短语信息构建网络;3.利用GAT网络来学习目标各个短语之间的关系

网络总体架构:
在这里插入图片描述
Encoder:
利用transformer来进行源编码,和原先不同的是通过一个pooling层获取句子级别表征;

Decoder:
首先针对每个KP构建一个学习网络,也就是LSTM,然后将学习到的语义表征送入phrase层次学习网络中,使得然后在通过phrase层语义网络去作为译码器的init_state,然后经过译码器来进行译码。
GAT 作为单独的一个学习网络,通过不断迭代更新节点信息后,然后将GAT后的节点信息和KP的LSTM学习网络的语义表征concat送入phrase网络。

具体公式不在这儿进行展示,详细可以去论文查找。

Dataset:
本文提出一个新的数据集,详细对比信息如下表:
在这里插入图片描述

架构疑问:
本文重点放在KP信息编码上面,但是在测试阶段存在问题就是网络中不存在输入信息怎么办?
文中对于这个部分介绍比较模糊,简单说是测试阶段GAT等不工作,但是同样的phrase和word的学习器本身也是无法工作的,这个难以解释。

结果:
在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值