【WACV 2021】零样本目标检测知识蒸馏：Data-free Knowledge Distillation for Object Detection

论文地址：

https://openaccess.thecvf.com/content/WACV2021/papers/Chawla_Data-Free_Knowledge_Distillation_for_Object_Detection_WACV_2021_paper.pdf

主要问题：

主要思路：

作者提出了 DeepInversion for Object Detection（DIODE）算法，以实现在目标检测任务上训练的神经网络的无数据知识蒸馏

从无数据的角度来看，DIODE 从一个现成的预先训练的教师模型中合成图像，而没有依赖任何先验领域知识、生成器网络或者预先计算的激活（用的是跟 DeepDream 类似的算法）

DIODE 依赖于两个关键组件：（1）可微的数据增强算法集合，以提高图像保真度和蒸馏效率；（2）一种新的自动边界框和类别采样方案，能够生成大量具有不同的空间和类别对象集的图像

同时作者还引入了拼接策略和假阳性采样策略来提高生成图像中对象的密度