前面我们介绍完domain adaptation
论文链接:Multi-Adversarial Domain Adaptation
下面我们来看一篇论文《Multi-Adversarial Domain Adaptation》发表在2018年的AAAI上面,作者是清华大学龙明盛老师的学生。
在阅读过程中翻译了部分论文,在这也一并贴出。
论文翻译:
摘要
最近在深度域适应方面的进展表明,对抗性学习可以嵌入到深度网络中,以学习可转移的特征,从而减少源域和目标域之间的分布差异。现有的基于单域鉴别器的域对抗性自适应方法只对源和目标数据分布进行对齐,而没有利用复杂的多模结构。本文提出了一种多对抗性域自适应算法(MADA)方法,该方法捕获多模式结构,以支持基于多个域鉴别器的不同数据分布的细粒度对齐。利用线性时间内的反向传播计算梯度,通过随机梯度下降实现自适应。实证结果表明,该模型在标准域自适应数据集上的性能优于现有方法。
介绍
深度网络,当在大规模标记数据集上训练时,可以学习可转移的表示,这在不同的任务和应用领域中通常是有用的。然而,由于一种称为数据集偏置或域转移的现象,在一个大数据集中使用这些深度表示训练的预测模型不能很好地推广到新的数据集和任务。典型的解决方案是在特定于任务的数据集上进一步微调这些网络,然而,收集足够的标记数据来正确地微调高容量的深层网络常常代价高昂。因此,有很强的动机建立有效的算法,通过利用来自不同但相关的源域的现成标记数据来减少标记消耗。然而,这种有希