会议摘要论文阅读笔记（二）

An Exploratory Study on Long Dialogue Summarization: What Works and What’s Next

论文链接：

https://arxiv.org/abs/2109.04609

主要想法：

这篇文章主要总结了目前长对话摘要的一些方法，主要是会议摘要领域的工作。目前长对话摘要的工作思路主要有两种，一种是对transformer模型进行拓展，比如long transformer，还有一些层次化的方法，比如HMNET等等。第二种方法是先抽取出一些关键句子，然后再用BART等SOTA的生成式模型生成最终的摘要。这里做了实验，在一些长对话的数据集上比较了long transformer,BART等end2end模型与先抽取再生成方法的效果，发现先抽取再生成模型的效果更好一些。这篇文章还探讨了在其他摘要数据集上预训练，引入query等方法对模型的提升效果，发现引入query，在不同任务上预训练可以提升摘要的效果。