论文笔记:Controlling Decoding for More Abstractive Summaries with Copy-Based Networks

原创 2018年04月17日 16:17:22

来源:

Arxiv, 2018

关键词:

PGNet; mixture coefficient; Decoding

问题:

现有生成式摘要系统(主要指PGNet)抽取性过高。

模型:

对解码过程进行控制,将生成模式和拷贝模式的混合系数(mixture coefficient)作为一个额外的优化目标。

原得分函数:

为了解决训练过程和解码过程中混合系数差别较大的问题,提出一个新的得分函数:

m*是目标混合系数,后一个是当前步的平均值。这样可以排除与目标系数差别过大的情况。

简评:

这篇文章的实验结果ROUGE得分并没有超越See etal. (2017)那篇,但其在控制生成式文摘系统抽取性方面做出的努力是值得肯定的。


有道云笔记和有道云协作视频教程

-
  • 1970年01月01日 08:00

#Paper Reading# Abstractive Sentence Summarization with Attentive Recurrent Neural Networks

论文大体内容: 本文使用一种conditional RNN来生成摘要,条件是卷积注意力模型(convolutional attention-based encoder),用来确保每一步生成词的时候都可...
  • John159151
  • John159151
  • 2017-06-11 09:19:03
  • 625

论文阅读:Pixel Recurrent Neural Networks

Introduction   PixelRNN和PixelCNN都没有做独立性假设。   通过一层256维的softmax层来将像素值当做离散分布来建模。 Math Model gener...
  • qq184861643
  • qq184861643
  • 2018-01-10 11:16:26
  • 86

[论文阅读笔记]U-Net: Convolutional Networks for Biomedical Image Segmentation

摘要   大意是说 ,普遍认为深度网络需要大量已标签数据集,这个网络(U-Net)可以依靠数据增强来事先少量数据集训练网络。而且,这个网络训练得很快,运用GPU运行,512*512的图片只需要不用...
  • qq_19784349
  • qq_19784349
  • 2017-11-22 20:54:40
  • 464

论文笔记 Visualizing and understanding convolutional networks

转自:http://blog.csdn.net/kklots/article/details/17136059   在所有深度网络中,卷积神经网和图像处理最为密切相关,卷积网在很多图片分类竞赛中...
  • iamzhangzhuping
  • iamzhangzhuping
  • 2015-12-17 19:24:59
  • 504

[深度学习论文笔记][IJCAI 17]Beyond Universal Saliency - Personalized Saliency Prediction with Multi-task CNN

这篇文章针对的问题是显著性检测(saliency detection)中的人眼注意力预测(eye fixation prediction)任务。这篇文章主要有两点贡献: 1. 首先提出人眼注意力是因人...
  • u010158659
  • u010158659
  • 2017-10-14 20:40:09
  • 358

论文笔记 R-FCN: Object Detection via Region-based Fully Convolutional Networks

这篇论文主要采用“位置敏感度图”的方法,将FCN 网络引入到目标检测中来,将图像分类和目标检测很好地结合。因此这种方法可以和很多FCN中的图像分类框架结合,比如ResNets等,使其应用到目标检测中来...
  • u012905422
  • u012905422
  • 2016-11-21 10:03:03
  • 3160

Feature Pyramid Networks for Object Detection 论文笔记

论文地址:Feature Pyramid Networks for Object Detection前言这篇论文主要使用特征金字塔网络来融合多层特征,改进了CNN特征提取。论文在Fast/Faster...
  • Jesse_Mx
  • Jesse_Mx
  • 2017-01-17 22:05:04
  • 11186

记忆网络论文相关笔记(不全)

Hybrid computing using a neuralnetwork with dynamic external memory  DNC 架构不同于最近提出的Memory networks和P...
  • zdcs
  • zdcs
  • 2018-02-27 10:37:29
  • 50

论文笔记 FCN: Fully Convolutional Networks for Semantic Segmentation

很早的一篇文章了,CVPR2015的一个亮点,看过几次了,今天决定mark一下。 文章使用全卷积网络,进行端到端的,像素到像素的训练,得到了很好的语义分割结果。...
  • u012905422
  • u012905422
  • 2016-11-23 18:19:09
  • 1898
收藏助手
不良信息举报
您举报文章:论文笔记:Controlling Decoding for More Abstractive Summaries with Copy-Based Networks
举报原因:
原因补充:

(最多只允许输入30个字)