模型可解释性

这篇博客介绍了两种用于可视化深度学习模型关注区域的技术——CAM和Grad-CAM。CAM通过全局平均池化和全连接层权重来确定特征图对目标类别的贡献。Grad-CAM则利用梯度信息来加权特征图,生成更精确的注意力区域。提供的代码链接分别支持PyTorch和TensorFlow实现。这两种方法有助于理解模型决策过程,但CAM限制于网络结构中必须包含全局平均池化层。
摘要由CSDN通过智能技术生成

https://mp.weixin.qq.com/s/4Tq43DEaUk_rtLubcztyNw
知乎:https://zhuanlan.zhihu.com/p/269589676?utm_source=wechat_session https://zhuanlan.zhihu.com/p/269702192
代码(torch):https://github.com/ramprs/grad-cam/
代码(tf) :https://github.com/Ankush96/grad-cam.tensorflow
论文:https://arxiv.org/pdf/1610.02391.pdf

【CAM】
文的做法通过上图就可以很直观理解, 到 为GAP到输出层全连接到目标类别(上图目标类别为狗)的权重。
由于GAP特征向量是直接来自于特征图(线性关系),因此该权重可视为特征图对目标类别score的贡献程度,进行加权求和既可以获取CAM,公式如下:

其中 为最后一层特征图位置 的值, 为类别c的全连接权重。
该方法的缺点是只能适用于最后一层特征图和全连接之间是GAP操作。
如果不是,就需要用户修改网络并重新训练(或 fine-tune)。
所以对本文简单概括即为:修改网络全连接为GAP形式,利用GAP层与全连接的权重作为特征融合权重,对特征图进行线性融合获取CAM。
在这里插入图片描述
【Grad-CAM】
代码(tf):https://github.com/Ankush96/grad-cam.tensorflow
代码(torch):https://github.com/ramprs/grad-cam

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值