最优传输论文（四十九）：Teacher-Student Consistency For Multi-Source Domain Adaptation论文原理

---

前言

• 文章来自2020年的CoRR
• 本文是本人领域自适应与最优传输系列论文的第49篇，所有系列论文的相关代码在https://github.com/CtrlZ1/Domain-Adaptation-Algorithms，希望各位大佬们不吝点赞，给个Star哦~

---

摘要

• 在多源域适配（MSDA）中，模型基于来自多个源域的样本进行训练，并用于在不同的目标域上进行推理。主流领域适应方法学习源和目标领域的联合表示。不幸的是，联合表示可能会强调对源域有用但损害对目标的推断（负迁移）的特征，或者删除关于目标域的基本信息（知识衰退）。
• 我们提出了多源学生教师（MUST），这是一种旨在缓解这些问题的新颖程序。其关键思想有两个步骤：首先，我们在源标签上训练教师网络，并在目标上推断伪标签。然后，我们使用伪标签训练学生网络，并对教师进行正则化以适应学生的预测。这种规则化有助于教师对目标数据