原文链接:https://proceedings.neurips.cc/paper/2017/file/21c5bba1dd6aed9ab48c2b34c1a0adde-Paper.pdf
Contributions
- 处理只有少量数据的情形并且提供高效的训练。
- 扩展对抗学习的方法使其可以利用目标域样本的标签信息。
- 将FADA和现在最好的方法进行广泛比较。
Methodology(原文图片,侵删)
原文将source & target domain的数据成对地分为四组:
- 均是来自源域的并且具有相同标签的成对样本
。
- 一个来自源域另一个目标域并且具有相同标签的成对样本
。
- 均是来自源域的但具有不同标签的成对样本
。
- 一个来自源域另一个目标域但具有不同标签的成对样本
.
例如来自MNIST 和 SVHN的成对样本分组
训练过程分为三步
- 首先使用源域上的样本训练
和
(eg:在MNIST上训练)
- 固定
,使用四组中成对的样本训练
(eg:在MNIST和SVHN上训练)
- 固定
优化
和
(依旧利用四组成对样本进行训练)
- 如果不收敛就重复2和3直至收敛
- 如果成功使得
无法判断出输入来自哪一组,那么就成功进行了域间对齐以及语义对齐(semantic alignment,应该是指同一类之间的对齐)——作者在文中没有交代原因,应该是先把数据进行了配对分组达到了该效果,传统的对抗方法是无法保证判别器无法成功进行域分类时同一类的数据在特征空间中离得很近。
具体算法如下
reference: