Ranking Sentences for Extractive Summarization with Reinforcement Learning

于 2022-04-11 18:46:30 发布
阅读量324 收藏 3
点赞数 1
文章标签： nlp
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_64165343/article/details/124083873
版权

中文标题：基于强化学习的句子排序抽取式摘要

开源链接：https://github.com/shashiongithub/Refresh

论文链接：​​​​​​https://arxiv.org/pdf/1802.08636.pdf

发表：NAACL 2018

组织：爱丁堡大学

Abstract

本文将抽取式摘要任务当作一个句子排名任务，提出了一个基于强化学习的新方法。并且在CNN/DM数据集上达到了SOTA。

1. Introduction

作者提到先前的抽取式摘要通常是将摘要任务当作二分类任务，即预测文本中的某一句话是否被选为摘要，通常使用交叉熵作为损失函数。作者认为交叉熵做训练并不是最佳的抽取式摘要的方法，用此种方式很容易产生冗长的摘要，包含很多不必要的信息。本文提出要全局优化ROUGE指标并通过强化学习的目标来对句子进行排序以生成摘要。

2. Summarization as Sentence Ranking

对于一个文档D以及句子序列(s_{1},...,s_{n})，模型首先为每个句子预测一个标签y\in(0,1)，其中标签1代表句子应该出现在摘要之中，接着模型学习为标签为1的句子s_{i}分配一个分数p(1|s_{i},D,\theta)，最后根据得分排序，取前

最低0.47元/天 解锁文章
卡其脱离太太太
关注
A Guide Resource for Deep Reinforcement Learning
学-> 思->用
12-24 736
A Guide Resource for Deep Reinforcement Learning 1. About this work: This deep intensive learning database was initiated by the 【 Deep Reinforcement Learning Laboratory(DeepRL-Lab) 】and was jointly c...
【论文笔记】 Reinforcement-Learning-Guided Source Code Summarization using Hierarchical Attention
animalkun的博客
08-28 755
1 INTRODUCTION 软件维护blablabla……代码注释blablabla…… 好的代码注释应具有以下特征：(1) 正确性，正确地阐明代码的意图；(2) 流利，使维护者易于阅读和理解；(3) 一致性，遵循标准的样式/格式。 现有的研究：统计语言模型，模板和规则，神经机器翻译等。 研究的局限性和作者的一些见解： 直接输入代码作为文本，不考虑代码的层次结构（能够通过不同上下文的不同token为注释生成提供更全面的表征）。 只用简单的时序特征来表示代码，如token 序列，而其他能够捕获注释和程序之
论文阅读笔记《Ranking Sentences for Extractive Summarization with Reinforcement Learning》
落尘
02-15 2410
文章目录0 摘要1 介绍2 通过句子排序进行自动摘要2.1 句子编码器(sentence encoder)2.2 文档编码器(document encoder)2.3 句子抽取器(sentence extractor)3 交叉熵损失的陷阱4 使用强化学习进行句子排序4.1 学习策略4.2 使用高概率样本进行训练5 实验6 结果7 相关工作8 结论 转载请注明原文出处 0 摘要 此文将抽取式单文档...
【论文笔记】基于强化学习的句子摘要排序
zenRRan的博客
09-24 796
点击上方，选择星标或置顶，每天给你送干货！阅读大概需要9分钟跟随小博主，每天进步一丢丢来自：专知zenRRan稍有修改【导读】本篇论文是采用强化学习做抽取式摘要的首次尝试，作者在论文中通...
Framework of Automatic Text Summarization Using Reinforcement Learning
FrankYu
12-07 516
Abekawa T, Abekawa T. Framework of automatic text summarization using reinforcement learning[C]// Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language
论文解析：Deep Reinforcement Learning for List-wise Recommendations
da_kao_la的博客
09-26 2909
论文解析：Deep Reinforcement Learning for List-wise Recommendations 简介 京东在强化学习推荐系统方面的工作，发表在KDD 2019 背景 推荐系统存在的问题： 无法通过与用户的交互建模用户的动态兴趣变化 最大化单次ranking的最大收益，未必是长期的全局最大收益 ranking过程忽略了item之间的关联 方法 强化学习 强化学习基于...
Ordinal Distance Metric Learning for Image Ranking
02-10
Recently, distance metric learning (DML) has attracted much attention in image retrieval, but most previous methods only work for image classification and clustering tasks. In this brief, we focus on ...
sentence-extractor:从文本中提取句子
05-29
构建项目运行 mvn clean install 要终止应用程序，请向进程发送 SIGTERM 注意，调试开启，关闭编辑main/resources/com/orbious/extractor/log4j.xml 构建类路径 mvn dependency:build-classpath 运行 FileParser 应用程序 export CLASSPATH=`cat .maven_classpath`:target/sentence-extractor-<version>.jar java -server com.orbious.extractor.app.FileParser -h 笔记 从 svn 导入（没有日期排序）。 用于从文本文档中提取句子。 已成功用于古腾堡计划文本。 使用启发式算法。 介绍 使用启发式算法从文本文档中提取句子。 建造 有一个 eclipse 项目
自动文摘（Automatic document summarization）方法综述（四）——基于神经网络的（neural summarization）方法
zxhohai的博客
10-31 4558
前三篇博客（一）、（二）、（三）总结了抽取式自动文摘的一些经典方法，传统抽取式自动文摘方法将文档简单地看作是一组文本单元（短语、句子等）的集合，忽略了文档所表达的全局语义，难免“断章取义”。随着算力的提升，深度学习在很多应用中非常的火热也取得了state-of-the-art的性能，因此，将神经网络模型引入自动文摘任务是理所当然的，将文档用神经网络模型进行表示被称为神经文档模型（neural do...
文本摘要相关论文汇总
MaggicalQ的博客
03-19 3111
awesome-text-summarization github地址：https://github.com/luopeixiang/awesome-text-summarization 这个仓库有对文本摘要的简单介绍，包括任务定义，类型，摘要评估方法等等， 同时整理收集了当前文本摘要方面常用的数据集以及相关最新论文， 适合想要快速上手了解文本摘要领域的人。 Table of Contents ...
NAACL 2018 ACCEPTED PAPER
AI小白入门的博客
10-02 7760
COLING 2018 接受论文列表地https://naacl2018.wordpress.com/2018/03/02/list-of-accepted-papers/ 详细如下： A BI-MODEL BASED RNN SEMANTIC FRAME PARSING MODEL FOR INTENT DETECTION AND SLOT FILLING Yu Wang, Yilin Shen...
Development of Neural Network Models in Text Summarization - 2
Forlogenの解忧杂货铺
08-15 443
本系列博文主要介绍了在文本摘要领域神经网络模型的一些发展，主要基于如下几类模型： Basic Encoder-Decoder model Encoder-Decoder + Attention Deep Reinforced model Bert based model GAN based model Consideration Deep Reinforced Model NACCL 2...
AAAI 2018: 基于强化学习的文本分类
黄鑫的博客
04-26 2080
看这篇论文前，建议先了解一下policy gradient RL，就更很容易理解论文思想了。 论文：《Learning Structured Representation for Text Classification via Reinforcement Learning》 代码：http://coai.cs.tsinghua.edu.cn/publications/ 一、论文原理 这...
基于强化学习的文本生成技术
热门推荐
人工智能
04-25 1万+
2013年以来Deep mind团队相继在NIPS和Natures上发表了用深度增强（强化）学习玩Atari游戏，并取得良好的效果，随后Alpha go与李世乭的一战更使得深度增强学习家喻户晓。在游戏上取得了不错的成果后，深度增强学习也逐渐被引入NLP领域。本期介绍目前NLP领域较为热点的研究方向，基于强化学习的文本生成技术（NLG），共选择了三篇文章，分别为： 1.             《
论文阅读14：Reinforcement learning approach towards effective content recommendation in MOOC environments
uuummmimiii的博客
08-09 578
参考论文：Reinforcement learning approach towards effective content recommendation in MOOC environments #论文笔记：Reinforcement learning approach towards effective content recommendation in MOOC environmen...
SVM驱动的Learning to Rank简介：信息检索与NLP中的关键技术
"李航博士的《Learning to Rank：一个简要介绍》是关于排名学习在信息检索、自然语言处理和数据挖掘领域中的重要研究。该论文发表于2011年IEICE Transactions on Information and Systems的特别专题——信息基于归纳...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值