SymNets网络

SymNets是一种用于对抗域适应的网络架构,通过设计特殊的分类器,无需明确的域鉴别器就能实现源域和目标域的边缘及条件分布对齐。网络包含两个并行的分类器Cs和Ct,以及共享权重的分类器Cst,通过不同的损失函数实现类别和域级别的对齐。训练过程中,使用源域样本进行类别级混淆损失计算,而目标域样本用于域级混淆损失。最终,结合多种损失函数优化特征提取器和分类器。
摘要由CSDN通过智能技术生成

(2019 CVPR)Domain-Symmetric Networks for Adversarial Domain Adaptation (SymNets)

论文链接[1904.04663] Domain-Symmetric Networks for Adversarial Domain Adaptation (arxiv.org)

SymNet网络架构

在SymNets网络中,分类器C有两个并行的任务分类器C^{s}C^{t},它们都拥有K个神经元对应类别数,此外,本文还设计了一个与和共享神经元的分类器C^{st},它拥有2K个神经元。(PS:其实就是一个拥有2K个神经元的分类器模型同时干了三件事情)。symNet网络没有一个明确的域辨别器,域鉴别和域混淆是通过对分类器C^{st}设计损失函数实现的。SymNets模型在对齐源域和目标域的边缘分布的同时也增强了对两个域中条件分布的对齐,从而实现类别层级的对齐。

训练两个分类器Cs和Ct,和这个共享权重的分类器Cst

1)

2)

3)

其中\sum _{k=1}^{K}p_{k}^{st}(x)\sum _{k=1}^{K}p_{k+K}^{st}(x)分别代表样本被分为目标域或源域的概率。可以理解为对于源域数据,它希望让分类器C^{st}上半部分所占的概率尽可能大,对于目标域数据,它希望让分类器C^{st}下半部分所占的概率尽可能大。 直观图如下所示。

两级域混淆训练

4)对于类别级混淆损失,使用有标签的源域样本来计算类别级混淆损失, 对于类别k的源样本,识别其在C^{st}中对应的第k个和第(k+K)个神经元对,并使用该神经元对的预测和均匀分布之间的交叉熵,可以理解为让分类器Cst在源域和目标域上对应的预测类别概率都尽可能大:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值