2021 ICLR Explainable Deep One-Class Classfication论文阅读总结

论文阅读 同时被 2 个专栏收录
6 篇文章 0 订阅
5 篇文章 0 订阅

Motivation

“This transformation is highly non-linear, finding interpretations poses a significant challenge.”

之前例如Deep-SVDD(DSVDD)等比较经典的无监督异常检测算法,很难解释一张图片为什么是异常的,因此这篇文章考虑将之前的DSVDD模型最终比较的向量调整为二维矩(explanation heatmap),在CIFAR-10 ImageNet上面有提升,且在MVTec-AD数据集上可以做到解释异常位置。

Contribution

  • 在传统无监督one-class任务中的效果接近sota(cifar10 imagenet)
  • 在含有ground-truth的数据集中制定了新的sota
  • 解释了DSVDD的Clever Hans效应。

Model

在这里插入图片描述

最传统的全连接卷积网络,图片被映射到 1 ∗ u ∗ v 1*u*v 1uv​的feature map。论文提到卷积层的一个重要性质就是feature map的一个piexel只有关于输入的一个固定的感受野,这样feature map的异常分数就可以映射回原图片的位置。(保留 spatial information)

在这里插入图片描述

经过Fully Convolutional Data Description 得到一个feature map,同样也是一个 heatmap,再经过上采样获得原尺寸异常区域解释图。

Loss

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-cuD67U4m-1629441635411)(C:\Users\Administrator\AppData\Roaming\Typora\typora-user-images\image-20210820095914353.png)]

其实 y i y_i yi代表label,0为正常,1为异常,异常图片可以来自非原域图片(outlier exposure), A ( X i ) = ϕ ( X ; W ) 2 + 1 − 1 A(X_i) = \sqrt{\phi(X;W)^2 + 1} -1 A(Xi)=ϕ(X;W)2+1 1,上述的loss参考了pseudo-Huber loss,该loss具体参考[1]), element-wise求结果, ∣ ∣ A ( X i ) ∣ ∣ 1 ||A(X_i)||_1 A(Xi)1是feature map所有元素求pseudo-Huber loss的和。

通过求导,正常样本的 ∣ ∣ A ( X i ) ∣ ∣ 1 ||A(X_i)||_1 A(Xi)1​​​​会减小,异常样本的会增大,因此该值可以作为异常分数。

upsample

因为论文的设定在试验阶段是没有ground-truth的,因此上采样部分的训练是无监督的,也就是无法直接训练一个deconvolutional 层,

论文提出了一种heatmap upsampling算法,基于feature map的每一个值都对应着原图的唯一一个感受野,并且在该感受野中,每个点对该输出的影响以一种高斯分布从感受野中心进行减弱(想象成一个卷积核的中心的是一个高斯分布的均值点,其他点随着距离下降)。

Experiment

定量实验 (average AUC)

数据集:

  • Fashion-MNIST (OE : EMNIST CIFAR-100)
  • CIFAR-10(OE: CIFAR-100)
  • ImageNet(OE: ImageNet22k)

比较方法

AE, Deep-SVDD,GEO / GEO+, Deep-SAD, HSC (前者无OE, 后者有OE)

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-CBDhLjdT-1629441635419)(C:\Users\Administrator\AppData\Roaming\Typora\typora-user-images\image-20210820143807024.png)]

Reference

  1. Ruff L, Vandermeulen R A, Franks B J, et al. Rethinking assumptions in deep anomaly detection[J]. arXiv preprint arXiv:2006.00339, 2020.
  • 0
    点赞
  • 0
    评论
  • 1
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

©️2021 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值