Improving Domain-Adapted Sentiment Classification by Deep Adversarial Mutual learning的一些思考
Improving Domain-Adapted Sentiment Classification by Deep Adversarial Mutual learning的一些思考
这篇论文使用了互学习的方法做无监督学习,最开始因为互信息找到这篇论文,但是这篇论文和互信息没啥关系。
是一个domain adaptation 的算法
前期有标签训练:
- 同样的数据集,使用不同初始化的参数,进行两个模型之间的相互学习。
- 最开始有语义的loss来限制模型的优化;
- 然后基于target数据进行无标签互学习,这里就存在数据是否会相互拉扯的问题;
- 我跑了这个算法,没有获得论文中这么好的结果。
我想互学习的方法用在监督学习里,可以提高准确率的同时缩短训练时长,让模型鲁棒性更好,但是无监督学习,真的可以work?