作者:禅与计算机程序设计艺术
1.简介
1.1、什么是自动摘要?
自动摘要(Automatic Summarization)是指通过计算机自动从一个长文本中选取和输出它的关键句子或者段落,用来向读者快速概览文本的内容并取得重要信息,是自然语言处理和信息提取的一个重要分支。
1.2、为什么需要自动摘要?
在一些情况下,我们可能需要阅读一篇长文档或文章中的大量内容,但却不得不花费大量的时间精力去阅读全文,而只想了解其中主要的亮点和重点。那么,如何通过机器来自动生成并快速理解文章的核心信息,也是需要解决的问题。
1.3、自动摘要分类
根据生成的摘要的不同类型,可以将自动摘要分为以下几种方法:
(1)基于句子选择的模型:根据句子的相关性进行排序,然后选出相对重要的句子作为摘要;
(2)基于词汇选择的模型:通过计算每个词在文档中出现的次数,选取出现频率最高的若干个词组作为摘要;
(3)基于主题模型的模型:利用潜在主题的概念对文档进行分析,找出其中比较重要的主题,然后生成对应的摘要。
除此之外,还有基于篇章结构的摘要方法、基于规则的方法等。本篇文章主要关注基于句子选择的模型和基于词汇选择的模型,它们均属于统计建模的范畴。
2.基本概念术语说明
2.1 数据集介绍
数据集:用于训练和测试模型的数据集合,它由文档组成,每篇文档都有一个原始文本和一个人工生成的摘要构成。数据集一般包括以下三个部分:<