【论文笔记】【CVPR2022】【异常检测】 Anomaly Detection via Reverse Distillation from One-Class Embedding

已于 2024-10-16 10:02:41 修改
阅读量1.3w 收藏 58
点赞数 12
分类专栏： 计算机视觉 深度学习 异常检测 文章标签： 深度学习 计算机视觉 机器学习
于 2022-03-13 21:15:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44866655/article/details/123466316
版权
本文介绍了一种新颖的异常检测框架，结合了知识蒸馏和Encoder-Decoder结构，名为逆向蒸馏。通过训练一个不可更新的教师编码器和一个学生解码器，利用一阶级瓶颈嵌入（OCBE）模块，有效地去除冗余信息。OCBE模块包括多尺度特征融合块和一阶级嵌入块，以降维并融合特征。实验结果显示，该方法在MVTec-AD数据集上实现了像素级和图像级的优秀异常检测性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

[CVPR2022] Anomaly Detection via Reverse Distillation from One-Class Embedding

CVPR 2022
Link: [2201.10703] Anomaly Detection via Reverse Distillation from One-Class Embedding (arxiv.org)
Code: https://github.com/Merenguelkl/Reverse_Disstilation

1. Intro

https://i-blog.csdnimg.cn/blog_migrate/807da91ba10de4c6c0b5b9c58f439fa3.jpeg

提出一个新颖的知识蒸馏框架：Teacher Encoder + Student Decoder，并使用逆向蒸馏（Reverse Distillation），引入一个可训练的 one-class bottleneck embedding (OCBE) 模块作为bottleneck，该模块可以保留用于还原正常样本特征的信息。OCBE包含了multi-scale feature fusion block (MFF)
和 one-class embedding block (OCE)。

两个优点

1、非相似结构。若teacher和student模型使用相同或相似的网络结构，那在异常样本上输出的差异性不够；

2、紧凑的Embedding。喂给student网络的特征是去除了冗余信息的。

Contribution

1、提出了简单有效的逆向蒸馏方式，解决了传统知识蒸馏框架中non-distinguishing filter问题。

2、提出的OCBE模块将特征从高维投影到低维，去除了冗余信息。

3、MVTec-AD SOTA结果

2. Method

https://i-blog.csdnimg.cn/blog_migrate/59d1099e7778dfe79c1a7b5447cfb543.jpeg

Overview

teacher E提取多尺度特征，训练student D从bottleneck embedding中还原这些特征，训练过程只在正常图像上进行。OCBE将多尺度特征聚合并降维到低维空间中供student D还原特征。

2.1 Reverse Distillation

将知识蒸馏和Encoder-Decoder框架融合，蒸馏过程为student Decoder通过bottleneck embedding先还原深层特征（high level），再浅层特征（low level）。

训练时Teacher Encoder不进行权重更新，只训练OCBE和Student Decoder。

Student Decoder使用和Teacher Encoder对称的网络架构，目的是让相对应位置的特征维度一致。

e.g. 当Teacher Encoder使用参数为kernel size = 1，stride = 2的卷积操作时时，Student Decoder 使用kernel size = 2，stride = 2的反卷积操作。

Loss

在每一组feature map上计算一张anomaly map，计算方法为在通道维上计算余弦相似度。得到的anomaly map尺寸与相应位置feature map尺寸一致。

https://pic.imgdb.cn/item/622dcde05baa1a80ab4a7832.jpg

loss函数为每张anomaly map的数值平均求累加：

https://pic.imgdb.cn/item/622dce2c5baa1a80ab4aa3b7.jpg

2.2 One-Class Bottleneck Embedding (OCBE)

若直接使用Encoder最后一层特征（原始bottleneck），有两个缺点：

1、维度太高，包含大量冗余信息；

2、最后一层特征包含高级特征（语义等），难以直接送入Decoder进行还原低级特征

为了客服以上缺点，提出了可训练的One-Class Bottleneck Embedding（OCBE）来降维并融合多level的特征，包含MFF和OCE

MFF

用于融合多级别特征，为了使得特征维度相同，对高级特征应用一个或多个大小为33，步长为2的卷积操作，并接有BN和ReLU。特征维度相同后进行拼接（concat），然后经过一个11的卷积核来降低通道数。

OCE

使用一个ResBlock得到更加适合用于Decoder还原Encoder特征的Bottleneck Embedding

https://pic.imgdb.cn/item/622dd0ba5baa1a80ab4c4c8f.jpg

2.3 Anomaly Scoring

像素级别

在Inference阶段，输入一张测试图像会得到L张Anomaly Map，对它们进行双线性上采样到原始图像大小，并进行相加，最终得到像素级别Anomaly Map，使用高斯模糊进行平滑处理。

图像级别

取Anomaly Map的最大值作为图像级别异常分数。

https://pic.imgdb.cn/item/622dd4015baa1a80ab4dbaed.jpg

3. Experiment

3.1 Defect Detection

数据集：MVTec-AD

图像级别

https://i-blog.csdnimg.cn/blog_migrate/5aaab7bb0690f43d1b9cbe1016b0a6e1.jpeg

像素级别

https://i-blog.csdnimg.cn/blog_migrate/746cc98832422b5e7dd1ce8a9cc8c839.png

异常分数分布

https://pic.imgdb.cn/item/622dd6b55baa1a80ab4effaa.jpg

3.2 Semantic Anomaly Detection

数据集：CIFAR-10、MNIST、F-MNIST

https://i-blog.csdnimg.cn/blog_migrate/0e3cdd8b03e7ab3821a1a91f61e29dd8.jpeg

4. Ablation

4.1 with/without OCBE

https://i-blog.csdnimg.cn/blog_migrate/6c8bd43e60b866e0b011347e9675e5f5.jpeg

4.3 Multi-Scale Feature

https://i-blog.csdnimg.cn/blog_migrate/149630a55810d4dc1562e0003291604f.jpeg

4.2 Different Backbones

https://i-blog.csdnimg.cn/blog_migrate/f75d2104864aaed26d6482c83fa9d896.jpeg
异常检测 | Anomaly Detection via Reverse Distillation from One-Class Embedding |很不错的方法，可以用来找出特例！！！
5年+算法工程师，分享人工智能前沿技术，与自己的工程经验，欢迎订阅关注。
06-15 1617
本文提出了一种新的异常检测方法，名为“反向蒸馏”。该方法利用预训练的教师模型提取图像特征，并将其蒸馏到学生解码器中。学生解码器的目标是重建教师模型的多尺度特征，但由于学生模型只学习正常模式，因此无法重建异常特征，从而实现异常检测。主要贡献反向蒸馏框架： 教师模型为编码器，学生模型为解码器，打破传统蒸馏模型的结构限制，提高模型对异常的区分能力。一类别瓶颈嵌入模块： 将教师模型的高维特征压缩到低维空间，有效抑制异常特征的传播，增强异常检测效果。实验结果。
【Anomaly Detection论文阅读记录】Anomaly Detection via Reverse Distillation from One-Class Em ...(CVPR-2022)
大家一起进步叭
11-20 927
在反向蒸馏中，较小的模型（可以是学生模型）可能因为其简单性、抽象性或训练的特殊方式，学习到一些更具代表性或更具一般性的特征。在异常检测任务中，较小的模型可能通过学习一些低级别的异常特征，帮助大模型在高维空间中快速找到潜在的异常模式。教师E提取多尺度表示。在测试中，教师E提取的表示可以捕获异常特征。反向蒸馏是对传统蒸馏方法的一种变体，通常是指从一个较小的模型中提取知识或信息，并将其反向应用于一个较大的模型。这个过程试图通过从低复杂度的模型中获得一些新的特征或洞见，来增强更复杂模型的学习能力或性能。
Revisiting-Reverse-Distillation 项目使用教程
gitblog_00366的博客
08-31 613
Revisiting-Reverse-Distillation 项目使用教程 Revisiting-Reverse-Distillation(CVPR 2023) Revisiting Reverse Distillation for Anomaly Detection项目地址:https://gitcode.com/gh_mirrors/re/Revisiting-Reverse-Distil...
深入浅出完整解析Stable Diffusion（SD）核心基础知识
最新发布
weixin_55154866的博客
03-13 968
在AIGC时代中，虽然SD模型已经成为核心的生成式模型，但是曾在传统深度学习时代火爆的GAN、VAE、Flow-based model等模型也跨过周期在SD模型身边作为辅助模型，发挥了巨大的作用。GAN网络在AIGC时代依然发挥了巨大的作用，配合SD模型完成了很多AI绘画算法工作流，比如：图像超分、脸部修复、风格迁移、图像编辑、图像重绘、图像定权等。所以Rocky在这里简单讲解一下GAN的基本原理，让大家有个了解。GAN由生成器 G G G和判别器 D D D组成。
【论文笔记】CVPR2022：Anomaly Detection via Reverse Distillation From One-Class Embedding
yjttjyyy的博客
08-27 2119
反向蒸馏由异构体系结构组成：一个教师编码器和一个学生解码器。其次，学生解码器不直接将原始数据同时提供给T-S模型这种设计有两个主要优点：i）非相似结构。可以将教师编码器视为下采样滤波器，将学生解码器视为上采样滤波器。“反向结构”避免了无法区分的滤波器引起的混淆。ii）紧凑嵌入。馈送到学生解码器的低维嵌入作为正常模式恢复的信息瓶颈层异常特征可以看作是正常模式上的扰动。紧凑的嵌入有助于防止这种不寻常的扰动传播到学生模型，并因此提高了T-S模型在异常上的表示差异。
Anomaly Detection via Reverse Distillation from One-Class Embedding
DYCAHGCDX的博客
11-01 1926
为了解决“大容量模型获得的高维描述符可能具有相当大的冗余，表示的高度自由和冗余不利于学生模型解码基本的无异常特征”的不足，引入一个可训练的一类嵌入块，将教师模型的高维表示投影到低维空间中；更高层次的特征层和更宽的感知域可以提高性能（如使用第二和第三层特征的异常检测AUROC达到了94.5%，而只使用第三层特征的性能达到了97.3%）；教师E中的下采样是通过一个内核大小1，步幅为2的卷积层实现的，学生D相应解码块采用内核大小为2，步长为2的反卷积层。学生解码器D的架构是对称的，与E相比是反向的，
《论文笔记》Anomaly Detection via Reverse Distillation from One-Class Embedding
HarryXu的博客
03-10 8772
这是2022年的CVPR文章，作者提出了一个创新的知识蒸馏方案：反转知识蒸馏 论文地址：https://arxiv.org/pdf/2201.10703v1.pdf Motivation 论文针对传统的知识蒸馏的方案提出了一个问题：认为之前的方案容易阻碍异常表现的多样性 传统的知识蒸馏teacher和student的网络架构很相似或者几乎相同 而且teacher和student的输入流都是一样的 针对这个我的理解是，因为T和S网络相似，尽管T是预训练好的，有一定的泛化能力，而S只是模仿了T学到了重.
《Anomaly Detection via Reverse Distillation from One-Class Embedding》论文阅读笔记
m0_46314815的博客
12-30 678
提出了一种新的异常检测的知识提取方法--逆向提取。该方法从整体上解决了以往基于KD的AD方法存在的问题，提高了T-S模型对异常的响应能力。此外，在逆向蒸馏中引入可训练的单类嵌入和多尺度特征融合模块，以提高单类知识转移的效率。实验结果表明，该方法在异常检测、异常定位和新奇检测等方面均优于已有技术。
工业异常检测最新文章整理
weixin_37501173的博客
11-11 1534
尽管由于大量的训练数据集，他们在识别常见对象方面有很强的能力，但他们缺乏特定的领域知识，对对象内的局部细节理解较弱，这阻碍了他们在工业异常检测（IAD）任务中的有效性。在MVTec AD数据集上。通过设计一种基于clip的异常检测器，以滑动窗口的方式对风扇图像的每个部分进行快速引导分类，解决了这种低效的训练要求的问题。视觉异常检测的核心思想是从正常图像中学习正态性，但以往的工作都是针对特定的任务开发的，导致各种任务之间的碎片化:缺陷检测、语义异常检测、多类异常检测和异常聚类。中科院 2023 arxiv。
reverse distillation
07-29
引用\[1\]:在这个引用中，作者提到了一个名为"Anomaly Detection via Reverse Distillation from One-Class Embedding"的论文的非官方实现。引用\[2\]:在这个引用中，作者解释了反向蒸馏范式的工作原理。在反向蒸馏...
【CVPR2022】论文列表与下载——PartTwo
TomRen
06-12 2633
CVPR2022完整论文列表
AnomalyDetectionCVPR2018-master工程
12-03
AnomalyDetectionCVPR2018-master工程，用于异常事件检测，异常行为识别等
【CVPR-2018】Real-world Anomaly Detection in Surveillance Videos
06-21
CVPR 2018论文：真实监控场景中的异常事件检测 安防作为近年最热门的计算机视觉研究落地方向，与视频分析研究有着很紧密的关系。在真实的监控视频中，一个常见的需求就是要自动识别视频流中的异常事件，也就是异常事件检测任务（Anomaly detection)。 最近 UCF 的 CV 研究中心就在 CVPR18 上发表了一篇关于监控视频异常事件检测的论文，提出了一种基于深度多实例排序的弱监督算法框架，同时提出了一个新的大规模异常事件检测数据集。 论文解读：https://mp.weixin.qq.com/s/G0LLRrHyIEShHjjuuzeDdQ
（八：2020.08.27）CVPR 2020 追踪之论文纲要（译）
热门推荐
Jojo论文基地
08-27 1万+
CVPR 2019 追踪之论文纲要（修正于2020.08.27）讲在前面论文目录 讲在前面 论坛很多博客都对论文做了总结和分类，但就医学领域而言，对这些论文的筛选信息显然需要更加精细的把控，所以自己对这1400篇的论文做一个大致从名称上的筛选，希望能找到些能解决当前问题的答案。 论文链接建议直接Google论文名，比去各种论文或顶会网站找不知道快捷多少。 Respect！ 论文目录 论文 概要 12-in-1 - Multi-Task Vision and Language Repre
【论文笔记】【CVPR2022】【异常检测】Self-Supervised Predictive Convolutional Attentive Block for Anomaly Detection
weixin_44866655的博客
03-09 9291
CVPR 2022 异常检测论文
Reverse Distillation【异常检测：Density-based】
记录/交流，加油啊呀...
10-28 1089
Anomaly Detection via Reverse Distillation from One-Class Embedding
探秘异常检测新星：重访反向蒸馏（Revisiting Reverse Distillation）
gitblog_01016的博客
08-30 1140
探秘异常检测新星：重访反向蒸馏（Revisiting Reverse Distillation） 项目地址:https://gitcode.com/gh_mirrors/re/Revisiting-Reverse-Distillation 在计算机视觉的深海中，异常检测犹如灯塔，指引着我们识别出数据海洋中的异常之浪。随着CVPR 2023的到来，一篇名为《重访反向蒸馏用于异常检测》的论文脱颖而出，...
【异常检测-论文阅读】（CVPR 2022）Self-Supervised Predictive Convolutional Attentive Block for Anomaly Detection
小菜鸡的学习记录
08-10 3969
引入了一种新的神经块SSPCAB（Self-Supervised Predictive Convolutional Attentive Block），该神经块由一个掩码卷积层和一个通道注意模块组成，用于预测卷积接受域中的一个掩码区域。
Revisiting Reverse Distillation for Anomaly Detection
小鱼的小窝
02-25 721
RD++
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值