(ECCV 2022) Dense Teacher

DenseTeacher: Dense Pseudo-Label for Semi-supervised Object Detection
https://github.com/Megvii-BaseDetection/DenseTeacher
https://zhuanlan.zhihu.com/p/542199725

Motivation

之前的ssod工作生成伪框对未标注图像进行直接监督需要几个额外的步骤，包括非极大值抑制 (NMS)、阈值操作和标签分配。如此冗长的标签生成过程引入了许多超参数

Method

1.teacher 对整个 feature map 经过 cls_head 输出的 logits 再通过 sigmoid 生成一个 dense label,有了生成的 dense label，就可以用 Quality Focal Loss （Generalized Focal Loss） 来监督 student 模型的输出了。dense label并非是feature map，而是指teacher的feature map上每个点输出的分类和回归结果，不经过任何后处理（不考虑后面说的learning region的筛选），都让student去学习。


2.由于生成的 dense label 中间包含了很多 low score 的区域，作者提出用 FRS score 作为依据来过滤掉一些 low score 的区域。
其实就是某一个样本（point in FCOS）的分类最大概率值。然后 teacher 生成的 dense label 根据 FRS score 选取 top k% 来监督 student，其余不做约束。



Q:
作者只是很简单的说因为生成的是 dense label，所以选 dense object detector，也就是 FCOS 这类 anchor free 的方法。对于 two stage 的检测器，如 Faster RCNN 来说可能就不太适用。
当使用 Soft Teacher 的大规模抖动进行增强时，获得了更显著的改进，证明框抖动的效果明显
无监督损失权重。无监督数据的权重对训练结果也有重要影响。实验结果表明：对于有限数量的监督数据，如 COCO-Standard 10% 设置，相对较大的权重 4 是有利的。同时，对于有更多标注数据可用的 COCO-Full 设置，权重为 2 就足够了。我们将此现象归因于不同程度的过拟合。当只有少量标注数据可用时，由于标注的监督有限，过拟合问题很严重。在这种情况下，相对较大权重的无监督部分可以引入更强的监督并缓解这个问题。