1、文本增强方法:
1)EAD(同义词替换、随机插入、随机替换、随机删除)以及回译
2)受限变分自编码器(Conditional Variational Auto-Encoders,CVAE),他是通过在回译的中间过程增加一些噪声,但增加过程很可能导致标签的变化,因此使用CVAE来同时考虑标签和文本来丰富中间过程的语言,最后可以翻译成原来的语言。(大佬的博客,https://zhuanlan.zhihu.com/p/34998569)
在 VAE 中,它的 Encoder 有两个,一个用来计算均值,一个用来计算方差,Encoder 不是用来 Encode 的,是用来算均值和方差的
3)文本生成、对抗生成
4)条件生成(Contextual Augment):使用模型判断可以替换的位置,然后再生成可以替换的词语。
a.Contextual augmentation: Data augmentation by words with paradigmatic relations
b.Conditional BERT contextual augmentation