文章目录
- Abstract
- 1. Introduction
- 2. Related work
- 3. Generalized adversarial adaptation
- 3.1. Source and target mappings
- 3.2. Adversarial losses
- 4. Adversarial discriminative domain adaptation
- 5. Experiments
- 5.1. MNIST, USPS, and SVHN digits datasets
- 5.2. Modality adaptation
- 5.3. Office dataset
- 6. Conclusion
- References
Abstract
对抗式学习方法是一种很有前途的训练鲁棒深度网络的方法,可以跨不同领域生成复杂样本。尽管存在域转移或数据集偏差,它们也可以提高识别率:最近的非监督域自适应对抗方法减少了训练域和测试域分布之间的差异,从而提高了泛化性能。然而,虽然生成性对抗网络(GAN)显示出令人信服的可视化效果,但它们在区分性任务上并不是最优的,并且可以限制在较小的移位。另一方面,判别方法可以处理较大的域偏移,但对模型施加约束权重,并且不利用基于氮化镓的损耗。在这项工作中,我们首先概述了一个新的对抗性适应的广义框架,该框架将最新的最先进的方法作为特例,并使用这种广义的观点更好地联系以前的方法。然后,我们提出了一个以前未经探索的通用框架实例,该框架结合了判别建模、联合权重共享和GAN损失,我们称之为对抗性判别域适应(ADDA)。我们证明了ADDA比竞争领域对抗性方法更有效,但要简单得多,并且通过在标准领域适应任务以及困难的跨模态对象分类任务上超越最先进的无监督适应结果,证明了我们方法的前景。
1. Introduction
深度卷积网络在大规模数据集上训练时,可以学习在各种任务和视觉域中普遍有用的表示[1,2]。然而,由于一种称为数据集偏差或域偏移的现象[3],在一个大数据集上与这些表示一起训练的识别模型不能很好地推广到新的数据集和任务[4,1]。典型的解决方案是在特定于任务的数据集上进一步微调这些网络-然而,获得足够的标记数据以适当微调深层多层网络使用的大量参数通常非常困难和昂贵。