(2019 CVPR)Domain-Symmetric Networks for Adversarial Domain Adaptation (SymNets)
论文链接[1904.04663] Domain-Symmetric Networks for Adversarial Domain Adaptation (arxiv.org)
SymNet网络架构
在SymNets网络中,分类器C有两个并行的任务分类器
和
,它们都拥有K个神经元对应类别数,此外,本文还设计了一个与和共享神经元的分类器
,它拥有2K个神经元。(PS:其实就是一个拥有2K个神经元的分类器模型同时干了三件事情)。symNet网络没有一个明确的域辨别器,域鉴别和域混淆是通过对分类器
设计损失函数实现的。SymNets模型在对齐源域和目标域的边缘分布的同时也增强了对两个域中条件分布的对齐,从而实现类别层级的对齐。
训练两个分类器Cs和Ct,和这个共享权重的分类器Cst
1)
2)
3)
其中和
分别代表样本被分为目标域或源域的概率。可以理解为对于源域数据,它希望让分类器
上半部分所占的概率尽可能大,对于目标域数据,它希望让分类器
下半部分所占的概率尽可能大。 直观图如下所示。
两级域混淆训练
4)对于类别级混淆损失,使用有标签的源域样本来计算类别级混淆损失, 对于类别k的源样本,识别其在中对应的第k个和第(k+K)个神经元对,并使用该神经元对的预测和均匀分布之间的交叉熵,可以理解为让分类器Cst在源域和目标域上对应的预测类别概率都尽可能大: