从近年顶会论文看领域自适应（Domain Adaptation）最新研究进展

©PaperWeekly 原创 · 作者 | 张一帆

学校 | 中科院自动化所博士生

研究方向 | 计算机视觉

Domain Adaptation 即在源域上进行训练，在目标域上进行测试。

本文总结了近两年 ICML/NeurIPS 的几篇文章，分别覆盖了几种 DA 的新 setting 以及新的理论/方法。

CIDA

论文标题：

Continuously Indexed Domain Adaptation

收录会议：

ICML 2020 Oral

论文链接：

https://arxiv.org/abs/2007.01807

代码链接：

https://github.com/hehaodele/CIDA

目前已有的 domain 划分都是按类别的，即每个 domain 有一个固定的域标签。但是在日常生活中，domain 并不只是一个常数能够代表的，比如 RGB 图像和深度图像。

很多实际问题包含了连续变化的 domain，在医药领域，domain 可以是用户的年龄，这是一个连续的值，在自动驾驶领域场景的变化从白天到黑夜，是一个连续的过程。

先来看一个文中给出的简单样例，以二分类为例（红色和蓝色），给定六个 source domain 和其他域的无标签数据，想要去尽可能的提升在其他目标域的表现。

我们先来看一些传统算法的表现，对于简单的 adversarial learning，他想要学得一个 invariant representation 是的域分类器无法判别样本的来源，他学到的分类面如下所示，泛化性能并不是很好。

作者表达了传统方法在这种 setting 上不 work 的原因是不能有效地利用大量，连续变化的标签。本文的 intuition 是，对于上例，其实每个 domain 对应了一个旋转角度，本文给出的模型实际上也很简单，如下所示，就是将 label 也作为 encoder 的输入，在此基础上执行 adversarial training。

但是此时作者还观察到一个现象，如果我们将前三个 domain 拿出来单独分析，会发现这三个domain拿来预测标签得到的分布不尽相同，他们可能只是均值相同，并不是很好的对齐了特征的预测分布。