(CAN)Contrastive Adaptation Network for Unsupervised Domain Adaptation笔记
动机:
方法:
提出了CDD度量函数,既可以保证类间差异最大化,又可以 保证类内差异最小化:
Contrastive Adaptation Network (CAN):
- 最小化多个全连接层的CDD距离:
- 最小化源域数据的交叉熵损失:
总的目标函数:
CAN的优化:
需要对目标标签假设和特征表示进行联合优化。在每次迭代中,固定当前的特征表示,通过聚类来更新目标标签。然后基于更新后的目标标签最小化CDD反向传播更新特征表示。
目标域的簇(类别)中心初始化为同一类别的源域数据中心。
聚类过程是迭代的,直到收敛或达到最大聚类次数:
- 为每个目标样本分配标签(丢弃模糊数据,即远离聚类中心的数据;丢弃类,即该类别的样本数量过少的话,该类别先不予考虑)
- 更新簇中心