1 下游任务上的准确度
2 生成样本与label的相似度[余弦,transrate]
余弦相似度::::忠实度(即生成的数据样本是否接近原始样本)
AugGPT: Leveraging ChatGPT for Text Data Augmentation
TransRate::::紧凑度(即每个类的样本是否足够紧凑以进行良好区分)生成的样本与label的紧凑度
TransRate = H(Z) - H(Z|Y)
Z为生成的文本embedding, Y 为label"
AugGPT: Leveraging ChatGPT for Text Data Augmentation
2 生成样本的多样性[self-bleu, MMD,Distinct]
Self-BLEU Metric
Self-BLEU的计算方法是,对于每个生成文本,计算它与其他生成文本的BLEU分数,然后对所有生成文本的BLEU分数取平均值。
Self-BLEU的取值范围在0到1之间,分数越低表示生成文本的多样性越高,分数越高表示生成文本的相似性越高。
Self-BLEU常用于无条件语言生成、对话生成、文本摘要等任务中。
VARIATIONAL TEMPLATE MACHINE FOR DATA-TOTEXT GENERATION
横轴是 self-BLEU,是用来衡量同一个方法生成的不同句子之间的相关性,我们希望同一个方法生成的句子,相互之间相关性越小越好。
MMD:原始样本和增广样本的CLS embedding之间的最大均值差异(Maximum Mean Discrepancy, MMD[9]), 用以度量多样性.
CODA: CONTRAST-ENHANCED AND DIVERSITYPROMOTING DATA AUGMENTATION FOR NATURAL LANGUAGE UNDERSTANDING
Diversity ngram的unique个数 Submodular Optimization-based Diverse Paraphrasing and its Effectiveness in Data Augmentation https://aclanthology.org/N19-1363.pdf
Distinct Metric
Distinct用于衡量对话生成中生成文本序列的多样性。它计算生成文本中不同单词和二元组的数量,以反映多样性程度。为避免偏好较长的序列,该值还会根据生成的tokens总数进行缩放。
A Diversity-Promoting Objective Function for Neural Conversation Models
Diversifying Dialogue Generation with Non-Conversational Text
Expectation Adjusted Distinct "Rethinking and Refining the Distinct Metric
数据覆盖度(Coverage)、表达多样性(Distinct-4和Repetition-4)、语法性(Grammaticality)、一致性(Coherence
Long and Diverse Text Generation with Planning-based Hierarchical Variational Model
亲和力【图像】 增强数据对模型学习的训练数据分布的偏移程度 Affinity and Diversity: Quantifying Mechanisms of Data Augmentation https://arxiv.org/abs/2002.08973
多样性【图像】 增强数据相对于模型和学习过程的复杂性。 Affinity and Diversity: Quantifying Mechanisms of Data Augmentation https://arxiv.org/abs/2002.08973