论文地址:AEDA: An Easier Data Augmentation Technique for Text Classification
论文阅读
论文介绍
本文提出了AEDA(一种更简单的数据增强)技术来帮助提高文本分类任务的性能。为了构建性能良好的文本分类器,训练数据需要足够大,以便模型能够泛化到看不见的数据。简而言之就是对于文本分类任务来说,在句子中插入一些标点符号是最强的数据扩增方法。
AEDA Augmentation
插入标点符号的个数为,从序列1到三分之一中随机选择一个数字表示为执行插入的次数。然后,序列中的位置也被随机指定,与前面步骤中选择的数字相同。最后,对于每个选择的位置,从{“.”, “;”, “?”, “:”, “!”, “,”}中的六个标点符号中随机抽取一个标点符号。
扩充例子如下:
原论文做了大量文本分类任务的实验,并且与 EDA 方法进行了比较,首先看下面一组图,作者在 5 个数据集上进行了对比(模型为 RNN)
在 BERT 上的效果如下表所示,
总结和未来工作
本文提出了一种简单的文本分类任务的数据增强技术。未来的工作将集中于开发所提出的方法,即哪些标点符号可以产生更大的影响,哪些可以添加或丢弃哪些,以及有多少标点符号可以用来获得更好的性能。此外,还将研究标点符号是否应该随机插入或某些位置更有效的问题。