Dual Contrastive Learning: Text Classification via Label-Aware Data Augmentation,arxiv2022

在这里插入图片描述


北航出的一篇很有趣的文章,旨在将对比学习引入到有监督的学习框架中。引入了一个双重对比学习(DualCL)框架,该框架可以在同一空间中同时学习输入样本的特征和分类器的参数。具体来说,DualCL将分类器的参数视为与不同标签相关联的增强样本,然后利用输入样本与增强样本之间的对比学习。通过对5个基准文本分类数据集及其低资源版本的实证研究,验证了DualCL在分类精度方面的改进,并验证了其学习判别表示的能力,尤其是在样本数量较少的前提下,对性能的增益更加明显。

Introduction

无监督对比学习采用了一种损失函数,该函数迫使同一个例子的不同观点的表征趋于相似,而不同例子的表征趋于不同。一个最直观的例子是为某一个样本生成相应的正例以及负例子,让训练模型对正负利做出有效的区分。但是这种类似于聚类的方式总是基于无监督方式的,并且尽管有一些研究【SUPERVISED CONTRASTIVE LEARNING FOR PRE-TRAINED LANGUAGE MODEL FINE-TUNING,ICLR2021】试图将对比学习引入到有监督的NLP任务中,但是相应的研究还比较少。
因此,这篇论文的目的是在有监督的环境下开发一种更自然的对比学习方法,将分类器

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

五月的echo

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值