贴一下汇总贴:论文阅读记录
论文链接:《Adversarial Training for Aspect-Based Sentiment Analysis with BERT》
一、摘要
基于方面的情感分析(ABSA)研究情感的提取及其目标。为了帮助神经网络更好地泛化,为这项任务收集标记数据既费力又耗时。作为一种选择,可以通过在嵌入空间中执行的对抗过程来人工产生与真实世界示例相似的数据。虽然这些例子不是真实的句子,但它们已经被证明是一种正则化方法,可以使神经网络更加鲁棒。在这项工作中,我们使用对抗性训练来微调通用BERT和特定领域的后训练BERT。在改进后训练的具有不同超参数的BERT的结果后,我们提出了一种新的BERT对抗训练体系结构,利用对抗训练来完成情感分析中的方面提取和方面情感分类两大任务。该模型在这两项任务上均优于一般的BERT和域内后训练BERT。据我们所知,这是首次在ABSA进行对抗制训练的研究。
二、结论
本文介绍了对抗训练在基于方面的情感分析中的应用。实验结果表明,在网络训练过程中,通过使用敌对的例子,通用BERT和域内后训练BERT在特征提取和特征情感分类任务上的性能得到了提高。作为未来的工作,其他白盒对抗攻击以及黑盒攻击将被用于各种情绪分析任务的对抗训练方法的比较。此外,对抗训练在ABSA的其他任务中的影响,即方面类别检测和方面类别极性将被调查。
三、基于方面的情感分析任务
- Aspect Extraction 方面提取