【论文阅读】Get To The Point: Summarization with Pointer-Generator Networks

最新推荐文章于 2024-10-07 16:00:00 发布
原创 最新推荐文章于 2024-10-07 16:00:00 发布 · 401 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文介绍了一种结合指针网络和seq2seq模型的新型总结提取方法，旨在提高信息摘要的效率并减少重复输出。该模型通过引入覆盖机制来解决传统方法在生成文本时存在的问题。

1.论文链接

Get To The Point: Summarization with Pointer-Generator Networks

2.论文主要为了解决什么问题

  1. 作者想要提高信息摘要提取的效率，具体来说，既要有extract，又要有generate。
  2. 作者想要改进传统的seq2seq with attention（对应generate）和Pointer networks(对应extract)在生成文本的时候，会有重复输出的问题。

具体的重复输出可见下图
在这里插入图片描述

3.模型流程

在这里插入图片描述

3.1 seq2seq

首先用seq2seq进行生成新词，然后保存概率
在这里插入图片描述
接下来经过处理得到了在整个词汇表中的概率
在这里插入图片描述

最低0.47元/天 解锁文章
论文：Get To The Point Summarization with Pointer-Generator Networks解读
Little Garden
04-04 1084
论文：Get To The Point: Summarization with Pointer-Generator Networks解读 Abstract类型的文本摘要存在的问题： 容易产生不准确的事实； 倾向于重复相同的内容。 注：如上面所示，作为基线的seq2seq+Attention这样的纯粹的生成式模型存在1.无法生成OOV词汇；2.歪曲事实两个问题。Pointer Generato...
论文笔记|Get To The Point: Summarization with Pointer-Generator Networks
u011150266的博客
07-03 414
该论文是ACL2017的一篇影响力较大的论文：论文地址 文章目录概述模型基线模型指针生成网络实验分析 概述 抽取式文本摘要实现简单，所有内容都是从原文中抽取，但想要高质量的，足够抽象的摘要，则需要进行生成式文本摘要。 神经序列到序列模型是生成式文本摘要的一种可行的方法。然而，这些模型有两个缺点:重现事实细节不准确，重复生成。在本文工作中，作者提出了一个新的架构，以两种正交的方式增强标准的seq2seq的注意力模型。 首先，作者使用一个混合的pointer-generator网络。一边能从源文本复制单词，有
Get To The Point: Summarization with Pointer-Generator Networks
liuyingshudian的博客
11-20 992
seq2seq
【论文阅读】Get to the point :summarization with pointer-generator networks
BeforeEasy的博客
05-18 5342
摘要： 本文在原来的神经seq2seq模型上进行了两种改变，用混合的pointer-generator网络，既可以通过pointing直接从原文中copy单词又保留了通过generator生成新词的能力；另外，用coverage来记录已经总结出的内容，防止重复。 1 Introduction 生成摘要一般有两种方式，extractive和abstractive，前者是直接从原文中获...
文本生成论文阅读 Get To The Point: Summarization with Pointer-Generator Networks
qq_43588670的博客
11-26 664
本篇论文主要是用了copy机制，从输入中拷贝结果到输出，缓解OOV问题。本文提出一种新颖的架构：使用两种方式增强标准的seq2seq注意力模型。一，使用混合指针生成网络，利用指针从原文精确地复制单词，同时保留生成器产生新单词的能力。二，使用覆盖机制跟踪哪些单词已经被摘取，避免生成重复文本。提示：以下是本篇文章正文内容，下面案例可供参考。
get to the point:summarization with pointer-generator networks
真的是个瘦子
03-10 978
模型介绍 baseline 方法存在两个大问题： 1.无法解决unk问题 2.有很多是重复的。 baseline model 是 seq-seq +attention 模型 encoder – 单层双向LSTM，产生了一个序列的隐藏状态hi decoder – 单层单向LSTM，训练时，输入是参考摘要的前一个词（使用教师机制） 测试时，使用decoder 的上个输出作为输入。decode...
论文阅读 (63)：Get To The Point: Summarization with Pointer-Generator Networks
因吉的博客
07-29 645
以两种正交方式提出了一种用以增强标准序列到序列模型的架构。1）使用混合指针生成器网络通过指针从源文本复制单词。这有助于准确复制信息，同时保留通过生成器产生新词的能力；2）使用覆盖 (Coverage) 来跟踪总结的内容，并在一定程度上限制重复。............
【论文笔记】Get To The Point: Summarization with Pointer-Generator Networks
Herbe_chanceux的博客
10-17 717
题目：Get To The Point:Summarization with Pointer-Generator Networks 论文地址 文章目录Abstract1 Introduction2 Our Models2.1 Sequence-to-sequence attentional model2.2 Pointer-generator network2.3 Coverage mechanism Abstract 神经Seq-seq模型为abstractive文本摘要提供了一种可行的新方法(
pointer network 用到的数据
07-14
https://github.com/devsisters/pointer-network-tensorflow 的 tsp_10_train.zip
[ACL2017] Get to The Point: Summarization with Pointer-Generator Networks
Deep Learning and NLP Farm
02-12 2774
生成式的文档摘要，主要是提出了Coverage机制，为了解决seq2seq模型生成句子中经常有重复片段现象
PGN: 指针生成网络（Get To The Point: Summarization with Pointer-Generator Networks）
十里清风
10-20 3867
seq2seq模型可用于文本摘要（并非简单地选择、重排原始文本的段落），然后这些模型有两个缺点：不易关注真实细节，以及倾向于生成重复文本。 本文提出一种新颖的架构：使用两种方式增强标准的seq2seq注意力模型。第一，使用混合指针生成网络，利用指针从原文精确地复制单词，同时保留生成器产生新单词的能力。第二，使用覆盖机制跟踪哪些单词已经被摘取，避免生成重复文本。 引言 文本摘要任务旨在输出仅包含原文主要信息的压缩文本，大致具有两种方法：抽取式和摘要式。抽取式方法直接抽取段落原文，而摘要式方法可能生成一些原文中
Get to the pointer：Abstractvie summarization with pointer-generator networks（指向生成器网络）---2017ACL
github_37228709的博客
07-25 428
上个礼拜做了实验室的小组论文分享，选择了这篇生成摘要领域高引的一篇经典论文给大家分享。所以重新梳理了一下论文的主要内容，方便日后回顾。没有把论文的全部内容翻译出来，只是按照自己对论文的理解做了一个概述性的总结。 b站有一个论文原作者的论文分享视频，感兴趣的可以去看一下Pointer-Generator Networks. 目录 1. Introduction 2. Our models 2.1Sequence-to-sequence attentional model 2.2Pointer-..
【Pointer Networks】论文阅读笔记《Get To The Point: Summarization with Pointer-Generator Networks》
devil_son1234的博客
03-12 581
这是一篇ACL2017的论文，偏工程性，模型实用性强，容易复现同时性能也好，作者也都是大牛(大家如果上过cs224n的课，应该对Manning教授不陌生吧) 摘要 在生成式摘要任务中，对于传统的seq2seq+attention的模型架构，作者提出它们有以下缺点: 难以准确复述原文细节 无法处理原文中的未登录词(OOV) 在生成的摘要中存在一些重复的部分 此文提出了一种新颖的架构来增强标准的seq2seq+attention模型，采用了两种正交(互相之间不存在交集)的新颖手段: 使用指针生成器网络(p
point-generator network and Coverage mechanism for summary
yiqingyang2012的专栏
04-24 2615
Get To The Point: Summarization with Pointer-Generator Networks 传统的神经方法不能处理OOV以及解码时的重复问题，point网络用来解决OOV问题，coverage用来解决重复问题。point-generator network传统的神经方法不能处理OOV以及解码时的重复问题，point网络用来解决OOV问题。解码时用到的vocabul
基于Python的自然语言处理系列（26）：Get to the Point Summarization
最新发布
不想宅的冷同学
10-07 3019
"Get to the Point" 模型结合了Pointer机制和覆盖率机制，解决了生成式摘要系统中的词汇外词（OOV）问题以及重复生成问题。该模型的核心思想是使用Pointer-Generator机制将生成器（Generator）和指针（Pointer）结合，从而在预测新词时可以选择从词汇表中生成词语，或者直接复制文章中的词。覆盖率机制则通过引入覆盖向量，帮助模型避免生成重复内容。《Get to the Point》论文为自然语言处理中的文本摘要生成任务提供了重要的解决方案。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值