论文研读笔记1:

1.Improving Domain-Adapted Sentiment Classification by Deep Adversarial Mutual Learning:

1.1本篇论文提出了一种名为深度对抗性互学习(Deep Adversarial Mutual Learning, DAML)的新方法,用于改进领域适应性情感分类。

对抗学习:

类图中结果~

详见:https://zhuanlan.zhihu.com/p/359496110

1.2交叉熵损失计算公式:

理解详见:02_交叉熵损失原理_哔哩哔哩_bilibili

1.3互学习理解:

通过采用两个网络联合训练来提升深度神经网络的泛化性能。该算法不仅可以用于训练高效的小网络,也可以进一步提升大网络性能,且容易扩展到多网络学习及半监督学习场景中。

首先我们认为类别概率估计蕴含了网络挖掘到的数据本质规律。

其次我们认为约束类别概率相近起到正则化作用。

最后,我们认为网络在训练过程中会参考同伴网络的经验来调整自己的学习过程,最终能够收敛到一个更平缓的极小值点,从而具备更好的泛化性能。

详见:深度互学习-Deep Mutual Learning:三人行必有我师 - 知乎 (zhihu.com)

1.4 HAN网络

2.1论文思想:

    • 领域适应性情感分类旨在通过在有标签的源域上训练,来推断无标签目标域上的文档级情感。
    • 现有的模型通常包括特征提取器和情感分类器,但它们缺乏利用目标域中的情感极性。
  1. 提出方法:DAML通过两组特征提取器、领域判别器、情感分类器和标签探针来实现。领域判别器帮助特征提取器获得领域不变特征。标签探针通过探针组内的情感预测来探索目标域的文档情感极性,并指导本组特征提取器的学习。
  2. 提出了一种新的学习方法,结合了对抗学习和互学习的优点,并通过标签探针学习目标域的情感极性。在多个公共数据集上进行了实验,证明了DAML方法在领域适应性情感分类任务上取得了最先进的性能。
  3. 方法细节:使用层次注意力网络(HAN)作为特征提取器。通过对抗学习确保特征提取器能够生成领域不变的特征表示。通过互学习,使得两组模型能够相互学习,提高对目标域的泛化能力。

论文链接:

2002.00119.pdf (arxiv.org)

  • 6
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值