基于特征的对抗迁移学习论文_Deep Domain Adaptation论文集(四)：基于生成对抗网络GAN...

本系列简单梳理一下《Deep Visual Domain Adaptation: A Survey》这篇综述文章的内容，囊括了现在用深度网络做领域自适应DA(Domain Adaptation)的各个方面的一些文章。

原文链接：Deep Visual Domain Adaptation: A Survey

---

Adversarial-based Model

对抗网络：通过与判别器的对抗，生成器将源域和目标域数据在数据空间或者特征空间对齐。

判别器作用在数据空间：

• Coupled generative adversarial networks

CoGAN是一种学习源域和目标域数据联合分布的网络，其由两个GAN网络组成。通过强制性的给两个网络加上共享参数的约束，限制了网络的能力，从而两个网络从噪声生成的数据是差不多的。

文章认为生成网络的前几层是解码的高阶语义，所以通过共享权重对齐。判别网络后几层是解码的高阶语义，所以也共享权重对齐。这种权重的约束可以让网络在没有监督的情况下，学习源域和目标域图片的联合概率。所以该网络能用来生成成对的共享高阶语义，而低阶语义不同的图片，例如相同的物体，背景不同的图片。

• Pixel-level domain transfer

作者设计一个转换网络Converter，将源域的图片

转换成目标域的数据

。训练过程中，

与

是一一对应的。这边Converter是一个编码解码的过程，但是损失函数不是均方误差MSE，这是因为均方误差有两个缺点：一、MSE会使图片变模糊。二、MSE对于同一个物体例如衣服的各种各样的形状没有容忍度，也就是同样的衣服，只要几何上有一点漂移，就会导致误差很大。这显然不是我们想看到的。

作者受GAN的启发，将损失函数也设计为一个判别网络

，判断生成的图片是否和目标域的一致。但是只有一个判别网络

的问题是，生成的图片虽然可以和目标域的一致，但是不能保证生成的图片与源域的有关系。所以作者又设计了另外一个判别网络

，输入是源域数据

，目标域与之相关的数据

，目标域与之不相关的数据

以及生成的数据

。判别网络要使

与

输入时，输出值尽量大，

与

、

输入时，输出值尽量小，其实也是一个GAN。所以生成网络就需要欺骗

两个判别网络。

• Learning from simula