CVPR 2018之迁移学习： Partial Transfer Learning with Selective Adversarial Networks

最新推荐文章于 2024-07-12 18:01:39 发布

用GAN得有GPU

最新推荐文章于 2024-07-12 18:01:39 发布

阅读量1k

点赞数 1

分类专栏：迁移学习文章标签：深度迁移学习 SAN 卷积神经网络

本文链接：https://blog.csdn.net/qq_41967539/article/details/102512000

版权

本文探讨了部分迁移学习问题，针对源域数据类别丰富但目标域数据类别有限的情况，提出选择性对抗网络（SAN）。通过过滤不相关源数据，避免负迁移，并通过概率加权的域分辨损失实现细粒度自适应，提升迁移学习效果。实验表明，SAN在网络收敛速度和稳定性上优于其他方法。

摘要由CSDN通过智能技术生成

简述：
当前，目标迁移任务中的生成对抗网络GAN的核心目的是在于它的生成器G，而至于为什么存在判别器D，主要是为了引入对抗训练，通过对抗训练的方式让生成器能够生成高质量的图片。本文是基于GAN网络的一种具体案例的延伸。
作者认为，在大数据时代，通常我们会有大量的源域数据。这些源域数据比目标域数据，在类别上通常都是丰富的。比如基于 ImageNet 训练的图像分类器，必然是针对几千个类别进行的分类。我们实际用的时候，目标域往往只是其中的一部分类别。这样就会带来一个问题：那些只存在于源域中的类别在迁移时，会对迁移结果产生负迁移影响。所以，本文引入了一个新的转移学习问题，假设目标标签空间是源标签空间的一个子空间，提出了部分迁移学习（partial transfer learning）。这个 partial，就是只迁移源域中那部分和目标域相关的样本。如下图，源域有沙发、足球、望远镜的标签，目标域只有足球和望远镜的标签，入如果不能partial transfer learning，这样会产生一定的负迁移，影响性能。本文是第一个研究对抗性网络中的部分转移学习问题。

在这里插入图片描述
问题or相关工作：
在标准转移学习中，主要的挑战1.是目标域没有标记数据，因此，在源域Ds上训练的源分类器Gy由于p ≠ q的分布差异，不能直接应用于目标域Dt。挑战2.是我们甚至不知道源域标记空间Cs的哪一部分与目标。域标记空间Ct共享，因为Ct在训练过程中是不可访问的。