题目:Curriculum Graph Co-Teaching for Multi-Target Domain Adaptation
作者:Subhankar Roy1,2, Evgeny Krivosheev1
- 研究动机
考虑到未标记数据的激增,仅仅适应单一目标域的需要,在现实场景中已经失去了吸引力。
- 研究目标
学习一个可以适应多种目标域的鲁棒的分类器
- 技术方法
Curriculum Graph Co-Teaching (CGCT) | Curriculum Graph Co-Teaching (CGCT) | domain discriminator D | |
Feature extractor F | |||
classifier | MLP classifier | ||
GCN classifier Ggcn | |||
Domain-aware Curriculum Learning(DCL) |
|
- Curriculum Graph Co-Teaching
CGCT运用GCN来综合特征,并用课程学习(curriculum learning)方法来生成伪标签。每个课程学习步骤又可以分为以下两步:
- Adaptation stage
特征输入MLP分类器时,会输出样本属于某个类的概率
特征输入GCN分类器时,先在边模块处输出相似性矩阵,最后经过图网络更新节点,输出样本属于某个类的概率
由于边模块的学习需要带标签样本,所以将MLP分类器和图网络进行互训练,用MLP分类器的输出(>阈值)作为图网络的真实值,使图网络向真实值靠拢
用源域样本训练MLP分类器和图网络
总损失
- Pseudo-labelling stage(curriculum aspect)
伪标签用来训练MLP分类器和图网络
伪标签选择标准:
将具有伪标签的目标域样本加入源域
更新;
由于样本的域标签并未改变,因此不变。
- Domain-aware Curriculum Learning
- Domain selection stage
根据不确定性选择一个最近的域
- Adaptation stage
与上一模块相同,用公式(9)训练模块
- Pseudo-labeling stage
与上一模块相同,选择可靠伪标签并根据下式更新源域目标域并训练:
- 提出方法的依据
1、不同的目标域和源域存在不同的域抖动