NLP-生成模型-2016-生成式摘要模型：Seq2Seq+Attention+Copy【Pointer网络的Copy机制解决Decoder端的OOV问题】【抽取式+生成式】【第一个生成式摘要模型】

最新推荐文章于 2024-03-10 21:51:52 发布
最新推荐文章于 2024-03-10 21:51:52 发布
阅读量520 收藏
点赞数
分类专栏： # NLP/文本摘要 文章标签： 自然语言处理 深度学习 生成模型 文本摘要
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u013250861/article/details/122003779
版权

《原始论文：Abstractive Text Summarization Using Sequence-to-Sequence RNNs and Beyond》

Seq2Seq（BiGRU-UniGRU）+Attention+Copy【Copy机制解决Decoder端的OOV问题】【第一个生成式摘要模型】【抽取式+生成式】

同一作者的抽取式摘要模型（效果比其生成式摘要模型好）

《论文：SummaRuNNer: A Recurrent Neural Network based Sequence Model for Extractive Summarization of Documents》

与PGNet的区别

《论文：Abstractive Text Summarization Using Sequence-to-Sequence RNNs and Beyond》：不将Copy拷贝机制计算出的概率分布与在固定Vocab上计算的生成式的概率分布进行加和；（Copy机制只计算OOV词汇在源文本中所有词汇上的概率分布）

《论文：Get To The Point: Summarization with Pointer-Generator Networks》：将Copy拷贝机制计算出的概率分布与在固定Vocab上计算的生成式的概率分布进行加和；

参考资料：
【读】seq2seq—（3）Abstractive Text Summarization using Sequence-to-sequence RNNs and Beyond

u013250861
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
NLP-生成模型-2017-PGNet：Seq2Seq+Attention+Coverage+Copy【Coverage解决解码端重复解码问题；Copy机制解决解码端OOV问题】【抽取式+生成式】
u013250861的博客
12-24 3499
Pointer Network(指针网络)属于生成式模型。 - 仅用传统的 Seq2Seq 模型可以实现生成式摘要，但存在两个问题： 1. 可能不准确地再现细节, 无法处理词汇不足（OOV）单词/they are liable to reproduce factual details inaccurately; 2. 倾向于重复自己/they tend to repeat themselves。 - 传统的 Seq2Seq 模型中 Decoder 输出的目标数量是固定的，例如翻译时 Decoder 预测
人工智能-机器学习-深度学习-自然语言处理(NLP)-生成模型：Seq2Seq模型（Encoder-Decoder框架、Attention机制）
u013250861的博客
12-22 897
随机梯度下降
自然语言处理（NLP）—— 生成式模型和判别式模型
weixin_65190179的博客
03-10 826
生成式模型关注于如何根据数据生成过程来建模数据，能够生成新的数据实例，并试图理解数据的整体分布。判别式模型专注于区分不同的数据类别，学习输入与输出之间的直接映射关系，通常在预测任务上表现更优。选择生成式模型还是判别式模型取决于特定任务的需求，比如是否需要数据生成能力，数据的数量和质量，以及预测准确率的要求等。在实际应用中，这两类模型往往是互补的。
【论文阅读笔记】ArgLegalSumm 法律方面的生成式摘要模型
自用博客
01-17 304
【论文阅读笔记】ArgLegalSumm 法律方面的生成式摘要模型
NLP-基础知识-004(生成模型)
BUPT-WT的博客
12-03 585
使用语言模型生成句子(语言模型-生成模型) 生成新的数据-图片、音乐、文本... Unigram Model [NLP,I,Like,studying,course,yesterday] = Vocab [0.1,0.3,0.2,0.3,0.35,0.05] 不考虑上下文，可能生成下面句子: I,study,NLP,course,I,yesterday I Li...
华为mindspore培训资料：4.Seq2seq+Attention.pdf
03-24
在自然语言处理（NLP）领域，序列到序列（Sequence-to-Sequence，简称Seq2seq）模型已经成为处理一系列任务的核心技术之一，如机器翻译、问答系统、对话建模等。这些任务通常涉及将一个序列转换成另一个序列，例如将...
PyTorch-Batch-Attention-Seq2seq：批处理双RNN编码器和注意力解码器的PyTorch实现
02-03
PyTorch中的快速批处理Bi-RNN（GRU）编码器和注意解码器实现 这段代码是用PyTorch 0.2编写的。... PyTorch版本机制图，请参见此处： PyTorch Seq2seq官方机器翻译教程： 巴赫达瑙（Bahdanau）注意图，请参
textsum基于tensorflow实现的Seq2Seq-attention模型以及其他策略算法, 来解决摘要生成、主旨提取等
最新发布
03-28
文本摘要和主旨提取是自然语言处理领域中的重要任务，它们的目标是从长篇文章中提取关键信息，为用户提供简洁的概述。TensorFlow是一个强大的开源库，它为实现这些任务提供了丰富的工具和资源。本项目"TextSummary...
Transformer：Seq2Seq 模型 + 自注意力机制.zip
02-06
这个模型彻底改变了序列到序列（Seq2Seq）学习的方式，尤其在自然语言处理（NLP）任务中取得了显著的性能提升。在传统的RNN或LSTM序列模型中，信息传递依赖于序列的顺序，而Transformer通过引入自注意力（Self-...
深度学习入门-4（机器翻译，注意力机制和Seq2seq模型，Transformer）
01-06
深度学习入门-4（机器翻译，注意力机制和Seq2seq模型，Transformer）一、机器翻译1、机器翻译概念2、数据的处理3、机器翻译组成模块（1）Encoder-Decoder框架（编码器-解码器）（2）Sequence to Sequence模型（3）集...
中文文本摘要生成
04-15
python，中文文本，摘要，自动生成，提取，抽取
生成式文本摘要
及烏
12-20 1803
《A Neural Attention Model for Abstractive Sentence Summarization》EMNLP-2015 文章地址： https://www.aclweb.org/anthology/D/D15/D15-1044.pdf 《Abstractive Text Summarization Using Sequence-to-Sequence RNNs an...
NLP --- 产生式模型VS判别式模型
进击的菜鸟
12-12 1577
上一节我们介绍了概率图模型，这将在隐马尔可夫和条件随机场使用到，还会使用到的另外一个概念就是产生式模型和判别式模型，那么什么是产生式模型，什么是判别式模型呢？下面我们详细介绍这两种模型的区别。 他们的来源还是机器学习，在机器学习中，我们知道是分类问题，器分类就是等价于输入,求输出的概率即,由此可知分类问题其实就是一个求条件概率的问题，因此这里就牵扯到如何求解条件概率的问题，根据求解这个条件概率的...
NLP-生成模型-2015：Seq2Seq+Copy【 Pointer网络的Copy机制是对传统Attention机制的简化：输出针对输出词汇表的一个概率分布 --＞ 输出针对输入文本序列的概率分布】
u013250861的博客
08-25 586
NLP-自动摘要-2015：Pointer Networks
生成式摘要调研
qq_42920313的博客
09-08 1413
1、Coreference-Aware Dialogue Summarization 把共指信息通过GNN融入到系统中，提升factual correctness 创新点：首次通过GNN将共指信息融入到对话摘要中 可以做出改进的地方：在GNN结构上进行改进，添加其他语义信息，定义新的评价方式… 摘要 目前的对话摘要存在的问题有：非结构信息、说话人之间的非正式交互、随着对话发展说话人角色的动态变化。这些问题产生了复杂的共指关系。这篇文章调查了多种方式，关于详细地融合了共指信息在神经生成式对话摘要模型中，去解决
一个带copy机制的seq2seq的pytorch实现
Talk Is Cheap
12-16 868
https://github.com/pcyin/tranX/blob/master/model/seq2seq_copy.py
【论文解读】基于copy机制的端到端实体关系抽取模型
zenRRan的博客
07-20 922
点击上方，选择星标或置顶，每天给你送干货！阅读大概需要9分钟跟随小博主，每天进步一丢丢每日英文Weep no more, no sigh, nor groan. Sorrow calls...
一文详解生成式文本摘要经典论文Pointer-Generator
zenRRan的博客
06-29 1929
每天给你送来NLP技术干货！来自：AI算法小喵写在前面Pointer-Generator Network 以及微软的 Unilm 是小喵在20年所研读的自动文本摘要方向系列论文中的两篇，到今天为止个人依旧认为它们是非常值得一读的。今天我们先分享 Pointer-Generator Networks。简单地说，Pointer-Generator Networks这篇论文的...
NLG任务—摘要生成综述
听了个听儿
08-02 1513
文章目录一、NN之前的摘要生成技术简述1.1 抽取式模型1.1.1 pyTeaser1.1.2 LatentSemanticAnalysis1.1.3 TextRank1.1.4 分类模型1.1.5 基于序列的HMM模型1.2 生成式模型二、基于神经网络的摘要生成2.1 抽取式2.1.1 连续向量空间模型2.2.2 CNNLM 一、NN之前的摘要生成技术简述 1.1 抽取式模型 从原始文本中提取单词和单词短语来创建摘要。 1.1.1 pyTeaser pyTeaser 是Scala项目TextTease
EMC-GAN：一种基于生成对抗网络的情感对话生成模型在虚拟现实硬件中的应用
在当前的自然语言处理领域，情感对话生成是一个重要的研究方向，尤其是在虚拟现实智能硬件中，它能提升用户体验，增强人机交互的自然度和情感连结。文章中提到的基本问题在于，传统的端到端神经网络模型虽然可以生成...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值