Grad-CAM是CAM的推广
Grad-CAM算法原理
- 流程
- 计算类别分数$y^c$对于卷积层的feature map的梯度, 可得$\frac{\partial y^c}{\partial A_{i j}^k}$
- 将得到的导数进行GAP, 得到每个feature map所对应的权重$w_1^c,w_2^c,\dots,w_n^c$
- 将权重和feature map相乘求和
- 通过ReLU后插值得到Grad-CAM
- ReLU函数
- 过滤无关特征(对感兴趣的类别有积极影响的特征感兴趣)
- 实验结果
- Counterfactual Explanations
- 通过对梯度添加负号可以得到图像中与该类别最无关的特征
Guided Grad-CAM
- 将Guided Backpropagation的像素级别描述和Grad-CAM重点区域描述结合起来
- 可以从像素级理解网络
- 为什么使用Guided Backpropagation
- 反卷积可视化有伪影, 而引导反向传播通常噪音较小