EDA 文本增强（和我的思考）

EDA: Easy Data Augmentation

文章结构：原理、设置参数、代码。

一、原理

文章来源：https://arxiv.org/abs/1901.11196

通过对文本中部分词的改变，达到重写文本，让样本数量增多的目的，并增强对应训练模型的泛化能力。

具体有四种方式：

1、同义词替换：在句子中的词中随即选择n个非停用词。将每个词换成一个随即的同义词。

2、随机插入：在句子中的词中随即选择一个非停用词的一个随即同义词，将其插入句中的随机位置。做n次。

3、随机交换：在句子中随机选两个词做交换。做n次。

4、随机删词：对每个词做随机删除处理，概率是p。

二、参数

上面说了“xxxx，做n次”。究竟几次呢？

前三个任务：n=αl；l是句子长度

随机删除任务：p=α

α取值根据训练集原数据量决定，具体见下表。

另外，增强的样本量的数量也许受到限制，否则会过犹不及。具体见上表的n_aug，为适合的倍数。比如，原数据量为500个样板，则生成500*16=8000个样本。

三、代码

感觉挺好的一个代码：https://github.com/zhanlaoban/EDA_NLP_for_Chinese

其中的同义词用的 import synonyms 。有停用词库，也可改用自己的。

四、我的思考

在我工作的场景下，遇到了这样的情况，有些词汇时不能被改写的，如专有名词、核心词汇。如果修改了这些词，不仅达不到泛化的目的，还可能会导致样本类别的变化（论文中说不会变，那是普遍的文本和某些情况的类别下，某些垂类真会变啊，，另外如果是做回归问题，也回有不好的影响，，我就遇到了文本回归的任务）。

解决方式是做一个自己的“固定词表”，使用方式类似于设置的停用词表。但需要注意，如果该“固定词表”中有的不是词，而是词组或是短句，则需要微改代码哈~~

类似的情况也可以用在“回译”的文本增强方式上！

---

如果有点用，请点赞哈~~~