《Get To The Point: Summarization with Pointer-Generator Networks》阅读笔记

代码：www.github.com/abisee/pointer-generator

想了解算法缘由可参考李宏毅老师2018版的机器学习课程

动机

以往S2S模型工作解决了不仅仅是选择重组片段来进行文本摘要的问题。

但是有两个缺点：不能够准确地再现事实细节，和容易重复

解决方法

pointer-generator混合网络

coverage记录已经被总结过的信息

例子

• S2S+attetion会出现事实错误，无意义的句子和OOV单词
• Pointer-Gen会出现重复
• Pointer-Gen+coverage由多个片段组成

模型

具体参考：https://zhuanlan.zhihu.com/p/27272224or https://zhuanlan.zhihu.com/p/53821581

实验

评价指标

ROUGE- 1、ROUGE-2和ROUGE- l的F1得分(分别测量参考摘要和待评价摘要之间的单词重叠、双语法重叠和最长公共序列)

METEOR：匹配模式(只奖励单词之间的完全匹配)和(另外奖励匹配的词干、同义词和释义)

两种方案

抽象，提取

讨论

提取式普遍好于抽象式，主要由于新闻往往开头包含最重要的信息

与reference summaries相比生成的n-grams较少，copy的较多