【CVPR 2021】基于解耦特征的目标检测知识蒸馏：Distilling Object Detectors via Decoupled Features

论文地址：

https://arxiv.org/abs/2103.14475

主要问题：

与图像分类不同的是，目标检测的知识蒸馏更加复杂，因为它往往具有具有多个损失函数，其中语义信息所依赖的特征纠缠在一起

此外其他的目标检测知识蒸馏算法往往忽略了排除对象的区域的特征信息（就是背景区域的特征），而作者通过相关实验发现，只有通过背景区域特征蒸馏学生也可以显著提高学生，也就是说背景区域的特征对知识蒸馏也非常重要

这是因为通过背景区域蒸馏有效地减少了背景假阳性的数量

之前也有相关研究考虑了背景区域，但一旦将背景和前景集成在一起，蒸馏性能就会意外下降。原因可能是他们的方法直接整合了这两种区域。

从梯度的角度，作者在下图中说明了对象和背景区域之间的不一致：