[异常检测]Multiresolution Knowledge Distillation for Anomaly Detection

cvpr2021异常检测方向的论文

论文地址：https://arxiv.org/abs/2011.11108

前言

无监督学习的挑战

1.样本量小，如何通过现有的技术学到丰富的知识

2.训练时使用的是正常样本，那最后如何区分正常和异常的样本

贡献

1.Enabling a more comprehensive transfer of the knowledge of the pre-trained expert network to the cloner one. Distilling the knowledge into a more compact network also helps concentrating solely on the features that are distinguishing normal vs. anomalous.

2. Our method has a computationally inexpensive and stable training process compared to the earlier work.

3. Our method allows a real-time and precise anomaly localization.

4. Conducting a huge number of diverse experiments, and outperforming previous SOTA models by a large margin on many datasets and yet staying competitive on the rest.

网络结构图

 用S和C之间的激活值做损失函数，可解释性算法用于生成像素级精确的异常定位图。

损失函数

 

异常情况与正常情况有本质的不同，并且更加多样化时，单独使用Ldir会显示出最好的结果。另一方面，当考虑到有细微异常的情况时，MSE损失的表现明显更好。 

值损失函数

用来最小化C和S在每个 CPi 的激活值之间的欧氏距离

方向损失函数

用来增加激活向量之间的方向性相似度

检测和定位

异常检测：测试图片分别送进S和C，由于S只向C传授了关于正常图像的知识，异常图片的输入会存在潜在差异，通过设置Ltotal阈值检测异常。

异常定位：利用Ltotal的梯度找到导致Ltotal增加的异常区域。

 ①获取梯度属性图

②减少图的噪声：引入高斯模糊和形态学滤波器 

 实验