CVPR 2018之迁移学习： Partial Transfer Learning with Selective Adversarial Networks

简述：
当前，目标迁移任务中的生成对抗网络GAN的核心目的是在于它的生成器G，而至于为什么存在判别器D，主要是为了引入对抗训练，通过对抗训练的方式让生成器能够生成高质量的图片。本文是基于GAN网络的一种具体案例的延伸。
作者认为，在大数据时代，通常我们会有大量的源域数据。这些源域数据比目标域数据，在类别上通常都是丰富的。比如基于 ImageNet 训练的图像分类器，必然是针对几千个类别进行的分类。我们实际用的时候，目标域往往只是其中的一部分类别。这样就会带来一个问题：那些只存在于源域中的类别在迁移时，会对迁移结果产生负迁移影响。所以，本文引入了一个新的转移学习问题，假设目标标签空间是源标签空间的一个子空间，提出了部分迁移学习（partial transfer learning）。这个 partial， 就是只迁移源域中那部分和目标域相关的样本。如下图，源域有沙发、足球、望远镜的标签，目标域只有足球和望远镜的标签，入如果不能partial transfer learning，这样会产生一定的负迁移，影响性能。本文是第一个研究对抗性网络中的部分转移学习问题。

问题or相关工作：
在标准转移学习中，主要的挑战1.是目标域没有标记数据，因此，在源域Ds上训练的源分类器Gy由于p ≠ q的分布差异，不能直接应用于目标域Dt。挑战2.是我们甚至不知道源域标记空间Cs的哪一部分与目标。域标记空间Ct共享，因为Ct在训练过程中是不可访问的。我们提出了一个新的选择性对抗网络，通过解决两个挑战来实现部分迁移学习。(1)通过过滤属于离群（outlier）值标签空间Cs\Ct的不相关源标记数据，规避负迁移。(2)通过最大程度匹配共享标签空间Ct中PCt和q的数据分布，促进正迁移。

目前有两种主流的对抗网络：
一是域对抗的网络（Domain