【论文泛读】GPT-too: A language-model-first approach for AMR-to-text generation

提出了一种将强大的预训练语言模型与基于循环一致性的重新评分相结合的方法。
作者：Manuel Mager, Ramón Fernandez Astudillo, Tahira Naseem, Md Arafat Sultan, Young-Suk Lee, Radu Florian and Salim Roukos

摘要

抽象意义表征(AMR)是复盖广泛的句子级语义图。
问题
现有的从 AMR 生成文本的方法集中于仅在 AMR 标注的数据上训练序列到序列或图形到序列的模型。
解决对策
提出了一种将强大的预训练语言模型与基于循环一致性的重新评分相结合的方法。
创新点
这些模型在英文 LDC2017T10 数据集上的性能优于所有以前的技术，包括最近使用的变压器架构。
除了标准的评估指标之外，我们还提供了人工评估实验，进一步证明了我们方法的有效性。