矩阵维度必须一致_Deep Domain Adaptation论文集(六)：源域与目标域特征空间不一致的处理方法...

本系列简单梳理一下《Deep Visual Domain Adaptation: A Survey》这篇综述文章的内容，囊括了现在用深度网络做领域自适应DA(Domain Adaptation)的各个方面的一些文章。

原文链接：Deep Visual Domain Adaptation: A Survey

---

Heterogeneous Domain Adaptation

异构数据领域自适应：如果源域和目标域数据空间是一致的，也就是

，

数据维度也是一样的

，但是数据分布不一致

，

比如都是图片，一个是淘宝上下载的，一个是现实中拍摄的，称为Homogeneous DA。但是如果数据空间也不一致呢？就是

，

并且

，

比如源域现实中的图片，目标域是卡通图片，甚至源域是图片，目标域是文本也是可能的。显然基于同构的数据自适应方法无法处理这种情况。本文梳理一下都有哪些方法可以处理。

基于深度网络

• Cross modal distillation for supervision transfer

这篇文章的想法说起来其实很简单，我们希望的是得到深度图片（Depth Image）mid-level的语义表示，但是深度图片的数据量又不多，而且还没label，怎么做呢？我们可以用ImageNet已经训练好的网络，对与深度图片相应的数据（paired data），提取得到mid-level语义信息，如下图所示。然后用我要训练的网络提取的表示信息（灰色网络），与预训练好的网络（黑色网络）提取的表示信息做一个均方误差作为训练损失，反向传播修改灰色网络的权值。

• Cross-Modal Adaptation for RGB-D Detection

这篇文章想用depth images来增强网络物体检测（detection）能力，方法也和上面那篇一样简单粗暴。首先作者观察到CNN提取到特征前几层与分类无关，后几层与域无关。首先分别用一个卷积网络来提取depth images和RGB images的前几层特征，因为这些层与domain相关，与分类目标无关。然后在后几层融合，变成一个网络，来提取与分类有关的特征。

• Weakly-shared deep transfer networks for heterogeneous-domain knowledge propagation.

这篇在之前基于深度网络差异的论文集中提到过，处理的是异构的域自适应，如文本和图片，特征空间是不相同的。这篇文章使用一个正则项约束：

也就是把图片和文本先输入到一个各自独有的网络中，但是这两个独有的网络并不是独立的，需要满足如上式的约束。然后再输入到一个共享的网络中，希望提取出公共的特征。

• Transfer neural trees for heterogeneous domain adaptation

提出Transfer Neural Trees (TNT)方法，处理的是半监督异构领域自适应的