简述:
当前,目标迁移任务中的生成对抗网络GAN的核心目的是在于它的生成器G,而至于为什么存在判别器D,主要是为了引入对抗训练,通过对抗训练的方式让生成器能够生成高质量的图片。本文是基于GAN网络的一种具体案例的延伸。
作者认为,在大数据时代,通常我们会有大量的源域数据。这些源域数据比目标域数据,在类别上通常都是丰富的。比如基于 ImageNet 训练的图像分类器,必然是针对几千个类别进行的分类。我们实际用的时候,目标域往往只是其中的一部分类别。这样就会带来一个问题:那些只存在于源域中的类别在迁移时,会对迁移结果产生负迁移影响。所以,本文引入了一个新的转移学习问题,假设目标标签空间是源标签空间的一个子空间,提出了部分迁移学习(partial transfer learning)。这个 partial, 就是只迁移源域中那部分和目标域相关的样本。如下图,源域有沙发、足球、望远镜的标签,目标域只有足球和望远镜的标签,入如果不能partial transfer learning,这样会产生一定的负迁移,影响性能。本文是第一个研究对抗性网络中的部分转移学习问题。
问题or相关工作:
在标准转移学习中,主要的挑战1.是目标域没有标记数据,因此,在源域Ds上训练的源分类器Gy由于p ≠ q的分布差异,不能直接应用于目标域Dt。挑战2.是我们甚至不知道源域标记空间Cs的哪一部分与目标。域标记空间Ct共享,因为Ct在训练过程中是不可访问的。