关键词短语生成的无监督方法01——综述

2021SC@SDUSC

一、项目背景

关键词短语生成是指生成一个简短短语列表，以总结和描述一个长文集（例如，研究论文和新闻文章）。它有广泛的应用程序，仅举几例，信息检索，文本总结和文本分类。

在现行的关键词短语生成方法中，缺失的关键词短语的生成能力（即短语在原始文档中不存在）十分依赖于人工监督（即人工注释）。Hasan and Ng, 2010; Shang et al., 2018; Bennani-Smires et al.,2018一文中提出的Extractive methods只能提取出原始文档中的关键词短语。同类的方法不需人工的监督也能表现出较好的健壮性。然而缺失的关键词短语却极大程度上依赖于人工注释监督进行提取。随着深度神经网络的进步，最近的研究能够根据短语与文档的语义关联性筛选出关键词短语，无论它是否缺失。虽然这些方法已经取得了最先进的性能，但所有这些深度模型都受到监督并且需要大量的文件键字对。这需要昂贵和费力的收集。例如，Meng等人利用超过50万篇作者注释的科学论文来训练RNN模型。Xiong等人收集了 68000 个网页，并使用了专业注释器进行注释。

一些研究试图降低其对人工注释监督的依赖性，对缺失关键词短语的提取范围从输入文件扩大到其邻居文件，仍然不能很好地预测。

二、项目目的

在此系列报告中，我们旨在通过提出一种不受监督的方法来缓解缺失关键词短语的生成能力对监督方法的依赖——“AutoKeyGen”。这种方法可以在不使用任何人类注释的情况下，生成存在和不存在的关键词短语。