【论文笔记】【CVPR2022】【异常检测】 Anomaly Detection via Reverse Distillation from One-Class Embedding

已于 2022-03-27 18:42:37 修改
阅读量1.2w 收藏 52
点赞数 12
分类专栏： 计算机视觉 深度学习 异常检测 文章标签： 深度学习 计算机视觉 机器学习
于 2022-03-13 21:15:29 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44866655/article/details/123466316
版权

[CVPR2022] Anomaly Detection via Reverse Distillation from One-Class Embedding

CVPR 2022
Link: [2201.10703] Anomaly Detection via Reverse Distillation from One-Class Embedding (arxiv.org)
Code: https://github.com/Merenguelkl/Reverse_Disstilation

1. Intro

https://i-blog.csdnimg.cn/blog_migrate/807da91ba10de4c6c0b5b9c58f439fa3.jpeg

提出一个新颖的知识蒸馏框架：Teacher Encoder + Student Decoder，并使用逆向蒸馏（Reverse Distillation），引入一个可训练的 one-class bottleneck embedding (OCBE) 模块作为bottleneck，该模块可以保留用于还原正常样本特征的信息。OCBE包含了multi-scale feature fusion block (MFF)

最低0.47元/天 解锁文章
Merengue_l
关注
  • 12
    点赞
  • 踩
  • 52
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
14种异常检测方法汇总（附代码）！
u013250861的博客
03-24 342
换一句话说，重构误差其实主要来自较小的特征值对应的特征向量方向上的信息。One-Class SVM又一种推导方式是SVDD（Support Vector Domain Description，支持向量域描述），对于SVDD来说，我们期望所有不是异常的样本都是正类别，同时它采用一个超球体，而不是一个超平面来做划分，该算法在特征空间中获得数据周围的球形边界，期望最小化这个超球体的体积，从而最小化异常点数据的影响。所以，最大特征值对应的特征向量为数据方差最大的方向，最小特征值对应的特征向量为数据方差最小的方向。
CVPR 2022 最新论文分类整理及开源代码合集.docx
04-01
11. 文本检测/识别/理解(Text Detection/Recognition/Understanding) 12. 遥感图像(Remote Sensing Image) 13. GAN/生成式/对抗式(GAN/Generative/Adversarial) 14. 图像生成/图像合成(Image Generation/Image ...
复现异常检测论文：RD4AD
m0_63642362的博客
09-04 1500
论文全名：Anomaly Detection via Reverse Distillation from One-Class Embedding
异常检测 | Anomaly Detection via Reverse Distillation from One-Class Embedding |很不错的方法，可以用来找出特例！！！
5年+算法工程师，分享人工智能前沿技术，与自己的工程经验，欢迎订阅关注。
06-15 1073
本文提出了一种新的异常检测方法，名为“反向蒸馏”。该方法利用预训练的教师模型提取图像特征，并将其蒸馏到学生解码器中。学生解码器的目标是重建教师模型的多尺度特征，但由于学生模型只学习正常模式，因此无法重建异常特征，从而实现异常检测。主要贡献反向蒸馏框架： 教师模型为编码器，学生模型为解码器，打破传统蒸馏模型的结构限制，提高模型对异常的区分能力。一类别瓶颈嵌入模块： 将教师模型的高维特征压缩到低维空间，有效抑制异常特征的传播，增强异常检测效果。实验结果。
【论文笔记】CVPR2022：Anomaly Detection via Reverse Distillation From One-Class Embedding
yjttjyyy的博客
08-27 946
反向蒸馏由异构体系结构组成：一个教师编码器和一个学生解码器。其次，学生解码器不直接将原始数据同时提供给T-S模型这种设计有两个主要优点：i）非相似结构。可以将教师编码器视为下采样滤波器，将学生解码器视为上采样滤波器。“反向结构”避免了无法区分的滤波器引起的混淆。ii）紧凑嵌入。馈送到学生解码器的低维嵌入作为正常模式恢复的信息瓶颈层异常特征可以看作是正常模式上的扰动。紧凑的嵌入有助于防止这种不寻常的扰动传播到学生模型，并因此提高了T-S模型在异常上的表示差异。
《论文笔记》Anomaly Detection via Reverse Distillation from One-Class Embedding
HarryXu的博客
03-10 7654
这是2022年的CVPR文章，作者提出了一个创新的知识蒸馏方案：反转知识蒸馏 论文地址：https://arxiv.org/pdf/2201.10703v1.pdf Motivation 论文针对传统的知识蒸馏的方案提出了一个问题：认为之前的方案容易阻碍异常表现的多样性 传统的知识蒸馏teacher和student的网络架构很相似或者几乎相同 而且teacher和student的输入流都是一样的 针对这个我的理解是，因为T和S网络相似，尽管T是预训练好的，有一定的泛化能力，而S只是模仿了T学到了重.
《Anomaly Detection via Reverse Distillation from One-Class Embedding》论文阅读笔记
m0_46314815的博客
12-30 489
提出了一种新的异常检测的知识提取方法--逆向提取。该方法从整体上解决了以往基于KD的AD方法存在的问题，提高了T-S模型对异常的响应能力。此外，在逆向蒸馏中引入可训练的单类嵌入和多尺度特征融合模块，以提高单类知识转移的效率。实验结果表明，该方法在异常检测、异常定位和新奇检测等方面均优于已有技术。
[2022CVPR]Anomaly Detection via Reverse Distillation from One-Class Embedding翻译
Vincent_Tong_的博客
04-29 673
2022年CVPR异常检测论文 Anomaly Detection via Reverse Distillation from One-Class Embedding 翻译
【论文笔记】CVPR2023：Revisiting Reverse Distillation for Anomaly Detection
yjttjyyy的博客
08-27 1805
RD++通过提出伪异常机制、多个投影层的集成、紧凑正常特征和异常特征缓解的多任务学习，提升了RD的性能。
CVPR2023检测相关Detection论文速览上
weixin_44287798的博客
06-22 975
CVPR2023论文速览Detection上
Reverse Distillation【异常检测：Density-based】
记录/交流，加油啊呀...
10-28 920
Anomaly Detection via Reverse Distillation from One-Class Embedding
车道线检测 CVPR2022 PytorchAutoDrive: 源代码
10-28
描述中的“Rethinking Efficient Lane Detection via Curve Modeling”暗示了论文的核心思想，即重新审视和优化车道线检测的效率，通过曲线建模来实现这一目标。传统的车道线检测方法可能侧重于直线或简单的几何形状...
CVPR2022 Image Dehazing Transformer with Transmission-Aware 3D代码
09-24
CVPR 2022 Image Dehazing Transformer with Transmission-Aware 3D Position Embedding 源代码，很有学习价值，大佬任文琦团队的最新去雾杰作，从3D定位的角度去思考去雾。CVPR 2022 Image Dehazing Transformer ...
CVPR 2022 Tutorial Denoising Diffusion-based Generative Model
11-11
《去噪扩散基础与应用——2022年CVPR深度生成模型教程》 去噪扩散模型，作为近年来兴起的一种强大生成模型，在高保真图像生成领域展现了卓越的表现，其性能甚至超越了传统的生成对抗网络（GANs）。这类模型的核心...
CVPR 2022 LaTex 模板
05-07
2022年的CVPR LaTex模板是撰写和提交论文的标准工具，它为作者提供了编写高质量学术论文的结构和指南。以下是对该模板的详细解析和使用指导。 1. **LaTex简介** LaTex是一种基于TeX的文字处理系统，专为排版数学...
基于深度学习的草莓成熟度实时检测系统（UI界面+YOLOv8/v7/v6/v5模型+完整代码与数据集）
a871923942的博客
07-22 512
使用YOLO模型进行草莓成熟度检测。构建一个简单的用户界面，允许用户上传草莓图片，并显示检测结果。提供完整的代码示例和训练数据集。目录1. 引言2. 项目概述3. 环境配置4. 数据集准备5. 模型训练6. 构建UI界面7. 部署与测试8. 结论与声明。
**卷积神经网络典型CNN**
HP2LF的博客
07-23 1324
SeNet(Squeeze-and-Excitation Networks)是ImageNet 2017年分类任务冠军，核心思想是：Squeeze(挤压、压缩)和Excitation(激励)两个操作，其主要目的是通过显示的构建特征通道之间的相互依赖关系，采用特征重定向的策略，通过学习的方式自动的获取每个特征通道的重要程度，然后依据***这个重要程度去提升有用的特征，并抑制对于当前任务用处不大的特征。Squeeze特征压缩操作，将每个feature map的特征数据使用全局平均池化操作转换为一个数值(实数)，
智能路面裂缝检测：基于YOLO和深度学习的全流程实现
最新发布
a871923942的博客
07-23 586
引言路面裂缝检测是维护道路质量和延长道路寿命的重要手段。传统的检测方法往往费时费力且易受人为因素影响。为了提高检测效率和准确性，本文介绍了一种基于深度学习的路面裂缝检测系统。该系统包括用户界面，利用YOLO（You Only Look Once）v8/v7/v6/v5模型进行路面裂缝检测，并提供了完整的实现步骤和详细代码。
few-shot network anomaly detection via cross-network meta-learning
04-28
“Few-shot network anomaly detection via cross-network meta-learning”是一种利用跨网络元学习的方式进行小样本网络异常检测的方法。在网络异常检测中，数据分布较为复杂，而且正常数据远远多于异常数据。因此，需要采用小样本学习的方法，能够在小样本情况下准确识别异常数据。 该方法利用跨网络元学习，将多个网络的知识融合起来以提高模型的泛化能力。跨网络元学习具有良好的迁移学习性能，能够将多个网络中学到的知识有机地结合起来，建立更加有效的模型。 具体来说，该方法首先利用基于特征的分类器进行分类，以构建初始模型。然后，使用跨网络元学习的方法进行模型的优化，以提高模型的泛化能力和鲁棒性。最后，将优化后的模型应用于网络异常检测中，可以快速准确地识别异常数据。 总之，“Few-shot network anomaly detection via cross-network meta-learning”是一种创新的方法，可以有效地解决小样本网络异常检测问题。通过使用跨网络元学习的方式进行模型优化，可以提高模型的泛化能力和鲁棒性，让模型更加准确地识别网络异常数据。
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值