这是我可视化学习的第三篇文章。
Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization ICCV 2017
参考的阅读笔记如下:阅读笔记
翻译:翻译
1、介绍
这篇论文主要是提出了一种Grad-CAM技术对神经网络进行解释。
Grad-CAM是对周等人于2016年提出的CAM技术的推广,该方法不需要对网络架构进行任何修改。这使我们的方法可以应用于任何基于CNN的体系结构。对于全卷积网络,Grad-CAM可以简化为CAM。因此,Grad-CAM是CAM的推广。我们的方法只需要对每个图像有一个前向和一个部分后向传递,因此在一个数量级上这个方法更有效。
CAM技术使用的时候有以下缺点:要先改变网络的结构,然后再进行训练;只能作用于一类神经网络(含有卷积层和全连接层的图像分类CNN);会影响原网络的分类效果。
Grad-CAM可以对大量的CNN模型进行可视化,而且不会影响神经网络的分类效果,可以运用于多个领域,不仅仅只针对图像分类应用。
Grad-CAM是在最后一个卷积层产生一个粗略的定位图谱,突出显示图像中用于预测的重要区域。与以前的方法不同,Grad-CAM适用于各种各样的CNN模型族:(1)具有全连接层的CNN(例如VGG),(2)用于结构化输出的CNN(例如captioning),(3)用于具有多模式输入(例如视觉问答)或强化学习的任务,无需进行架构更改或重新训练。
将Grad-CAM与现有的细粒度可视化技术相结合,创建具有高分辨率的类别判别的可视化技术,Guided Grad-CAM,可以应用于图像分类,图像描述生成和视觉问答(VQA)等多个领域。
论文在实验部分,从多个方面对Grad-CAM进行了研究:弱监督定位能力,分类能力,可信度,通过识别数据集偏差来帮助实现模型泛化,以及在Image Captioning和VQA领域的应用。证明了Grad-CAM广泛适用于各种现成的可用架构,它可以为可能的模型决策提供可信的视觉解释。
paper中的一个小demo,使用Grad-CAM的效果如下:
这样的结果十分符合我们人眼的观测效果,当我们说一张图中有一条狗的时候,也主要依靠狗的头部进行判别,猫也是如此。
2、相关工作
论文借鉴了最近在CNN可视化,模型信任度评估和弱监督定位方面的工作。