MMT(互均值学习)

---

一、问题and方法

？：（1）不同数据集之间的领域差异
  （2）聚类过程引起的不可避免的标签噪声
1、MMT(相互均值教学）通过离线精炼硬伪标签和在线精炼软伪标签交替训练的方式，从目标域中学习更好的特征。
2、soft softmax-triplet训练软伪标签。

二、Method

1.MMT

MMT框架通过协作训练两个具有不同初始化的相同网络来生成软伪标签。

伪硬标签的生成基于现有的聚类UDA方法
伪软标签使用每个网络的过去时间平均模型而不是当前模型来为另一个网络生成软伪标签

   在训练之后，只有一个具有更好的验证性能的过去的平均模型被用于推断

---

算法流程：

   (3)

   (4)
   (9)

2.损失函数

源域：

目标域：

（1）基于硬标签的交叉熵损失和三元组损失：

（2）基于软标签的交叉熵损失和三元组损失：
soft classification loss ：

soft softmax-triplet loss

三、实验结果

消融实验：