Domain Separation Networks (NIPS 2016)

Bousmalis, K., Trigeorgis, G., Silberman, N., Krishnan, D., & Erhan, D. (2016). Domain separation networks. NIPS 2016.

网络结构：

输入图像为$x$。
对于target domain 有两个特征提取网络： $E_c(x),E_p^s(x^s)$。
对于target domain 有两个特征提取网络： $E_c(x),E_p^t(x^t)$。

文章做的是分类任务，除了分类器之外，framework仍然包含对图像进行重构的decoder。输入$x$，经过encoder和decoder得到重构图像$\hat{x}$。

$$\hat{x}=D(E_c(x)+E_p(x))$$

对于target domain $$\hat{x}=D(E_c(x^t)+E_p^t(x^t))$$

对于source domain $$\hat{x}=D(E_c(x^s)+E_p^s(x^s))$$

两个域有一个公共的encoder，还有单独的一个encoder。
Decoder网络两个域共用，通过private和shared representation两个特征进行重构。

损失函数

整体：

重构误差：

分类误差：

similarity loss ：

目的是使两个域的shared representation分布尽可能接近。

文章提到两个：

1). 使用 Gradient Reversal Layer (GRL)

2). Maximum Mean Discrepancy (MMD)

difference loss

文章说目的是使得shared 和private representation 两个分布正交：

矩阵$H$ 的每一行是hidden representation。

这个公式我还没研究明白，或许哪天再瞧瞧。

总之对这篇文章我还是很雾，哪天再仔细看看。