【XAI】透视深度学习：CNN与Transformer的可解释性方法

最新推荐文章于 2025-06-10 17:40:51 发布
最新推荐文章于 2025-06-10 17:40:51 发布
阅读量116 收藏
点赞数 3
分类专栏： 人工智能实战系列 文章标签： 深度学习 cnn transformer
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012133341/article/details/148388309
版权

深度学习模型在图像识别、自然语言处理等任务中取得了显著的成功。然而，它们的复杂性常常使得它们变得不透明，导致“黑箱”问题。可解释性方法旨在揭示这些模型如何做出决策，这对于建立信任、调试模型和确保公平性至关重要。在本文中，我们将探讨用于视觉任务的卷积神经网络（CNNs）和用于文本及序列数据的Transformer的可解释性方法，并为初学者提供详细的原理说明及Python代码示例。

目录

CNN的可解释性方法

1. 显著性图（Saliency Maps） / 梯度图（Gradient Maps）

2. 类激活图（Class Activation Maps - CAM, Grad-CAM, Grad-CAM++）

3. 基于扰动的方法

Transformer的可解释性方法

1. 注意力机制（Attention Mechanisms）的可视化与解释

2. 对序列数据和文本数据的解释

Python实现

CNN示例：显著性图

Transformer示例：注意力可视化与归因

结论

CNN的可解释性方法

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【AI视野·今日CV 计算机视觉论文速览 第219期】Tue, 15 Jun 2021
TomRen
06-18 2157
AI视野·今日CS.CV 计算机视觉论文速览 Tue, 15 Jun 2021 (showing first 100 of 128 entries) Totally 100 papers ????上期速览✈更多精彩请移步主页 Daily Computer Vision Papers Improved Transformer for High-Resolution GANs Authors Long Zhao, Zizhao Zhang, Ting Chen, Dimitris N. Metaxa
【AI视野·今日CV 计算机视觉论文速览 第244期】Fri, 15 Apr 2022
TomRen
04-19 1674
AI视野·今日CS.CV 计算机视觉论文速览 Fri, 15 Apr 2022 Totally 70 papers 👉上期速览✈更多精彩请移步主页 Daily Computer Vision Papers A Level Set Theory for Neural Implicit Evolution under Explicit Flows Authors Ishit Mehta, Manmohan Chandraker, Ravi Ramamoorthi基于坐标的神经网络参数化隐式表面已经.
【AI视野·今日CV 计算机视觉论文速览 第230期】Fri, 2 Jul 2021
TomRen
07-02 2494
AI视野·今日CS.CV 计算机视觉论文速览 Fri, 2 Jul 2021 Totally 69 papers ????上期速览✈更多精彩请移步主页 Daily Computer Vision Papers CSWin Transformer: A General Vision Transformer Backbone with Cross-Shaped Windows Authors Xiaoyi Dong, Jianmin Bao, Dongdong Chen, Weiming Zhang
RNN和CNN使用场景区别
mayaohao的博客
06-06 1036
RNN（循环神经网络）和 CNN（卷积神经网络）是深度学习中两种核心架构，它们的使用场景主要取决于数据结构和任务需求。
深度学习之模型压缩三驾马车：基于ResNet18的模型剪枝实战（2）
ak47maker的博客
06-05 774
本文针对ResNet18模型剪枝进行了优化改进，主要包含三个方面：1) 将剪枝目标层从底层conv1调整为中间层layer2.0.conv1，减少对基础特征的破坏；2) 采用基于激活值的前向传播方法评估通道重要性，优先剪除低激活通道；3) 改进微调策略，动态解冻关联层并使用更低学习率(0.0001)进行10轮微调。这些优化有效提升了剪枝后模型的稳定性和性能表现，特别是通过中间层剪枝和基于特征贡献的通道选择策略，避免了底层特征破坏带来的连锁反应。
山东大学深度学习2025年期末考试
c335000的博客
06-05 571
1.反向传播2.激活函数3.梯度裁剪4.数据增强5.迁移学习6.过拟合7.word2Vec8.注意力机制。
深度学习N2周：构建词典
Radiantsss的博客
06-05 505
1.遇到的问题解决：2.掌握了如何从文本数据中提取词汇，并通过去除标点符号和停用词来减少噪音。还学会了如何使用jieba进行中文分词，并通过自定义词典来优化分词结果。可能因为torchtext与电脑配置冲突，一直无法运行到最后一步，就差一点点。。。
医疗风险预测AI模型：机器学习与深度学习方法的深度分析与实践
AllenLV的博客
06-09 397
医疗AI的发展轨迹已清晰显示：从辅助工具到临床伙伴的角色演进。随着多模态大模型、量子计算等技术的融入，我们正迈向**主动式健康风险防控**的新纪元。成功的关键在于建立**临床医生-AI工程师-患者**的协同创新生态，让技术创新真正服务于改善人类健康的终极目标。
深度学习习题2
2301_78450837的博客
06-05 1058
4.假设我们拥有一个已完成训练的、用来解决车辆检测问题的深度神经网络模型，训练所用的数据集由汽车和卡车的照片构成，而训练目标是检测出每种车辆的名称（车辆共有10种类型）。造成这一现象的可能原因是什么？A、第一隐藏层对应D，第二隐藏层对应C，第三隐藏层对应B，第四隐藏层对应A。B、第一隐藏层对应A，第二隐藏层对应C，第三隐藏层对应B，第四隐藏层对应D。C、第一隐藏层对应A，第二隐藏层对应B，第三隐藏层对应C，第四隐藏层对应D。D、第一隐藏层对应B，第二隐藏层对应D，第三隐藏层对应C，第四隐藏层对应A。
亲测解决self.transform is not exist
狂小虎/Anthony Dave的博客 KuangXiaoHu's Blogs
06-05 309
摘要 出现该问题是由于torchvision版本过低导致的。解决方法为：先卸载当前版本的torchvision，然后重新安装最新版本。具体操作命令为：先执行"pip uninstall torchvision;卸载旧版本，再执行pip install torchvision"安装最新版本。
PCDF (Progressive Continuous Discrimination Filter)模块构建
不断积累不断学习
06-07 546
（1）高层特征 → 双线性上采样 → 与低层特征逐级融合。：浅层特征（边缘细节）与深层特征（语义信息）的融合。（3）防止信息退化：跳层连接 + 跨尺度拼接。轻量 MLP：CCM 的通道缩减比1/4。（1）使用深度可分离卷积替代标准卷积。：目标尺寸在视频序列中的剧烈变化。：移除通道响应<0.1的特征层。：低质量医疗图像中的伪影干扰。：融合多尺度上下文信息。：动态调整特征响应权重。通道压缩：CSF 中。（2）保留原始分辨率。U-net++网络中。
第2天：认识LSTM
差点就差一点点的专栏
06-05 1025
本文介绍了LSTM（长短期记忆网络）的核心原理与实现。LSTM通过遗忘门、输入门和输出门三个关键组件有效解决了传统RNN的梯度消失问题，能够处理长序列数据。文章详细解析了LSTM的门控机制和工作流程，并提供了基于PyTorch的LSTM网络实现代码，包括参数设置和前向传播过程。最后列举了LSTM在自然语言处理、时间序列预测等领域的典型应用。该内容来自365天深度学习训练营的学习记录，使用Python 3.10和PyCharm环境开发。
【深度学习】为什么2个3×3的卷积可以相当于一个5×5的卷积核？为什么3个3×3的卷积相当于一个7×7的卷积核，到底区别在哪里？我们该如何使用？
猫天意的博客
06-05 789
摘要： 本文对比了串联小卷积核与大卷积核在CNN中的性能差异。以640×640输入为例，分析2个3×3与1个5×5、3个3×3与1个7×7的卷积组合，发现小卷积核串联可保持相同感受野的同时显著减少参数量（28%-45%），并通过多层非线性激活增强特征表达能力。小卷积核堆叠在网络深度、硬件加速和正则化效果上更具优势，已成为现代CNN设计准则，尤其适合需要多层次特征提取的任务，而大卷积核仅建议在网络浅层使用。这种设计本质是通过空间域分解实现高效分层次特征提取。
RNN做中文分词
mayaohao的博客
06-10 497
结合 RNN 的输出和 CRF 的转移矩阵，使用维特比算法（Viterbi Algorithm）找到最优标签序列。中文与英文不同，词与词之间没有空格分隔。分词就是要在连续的字符流中找出正确的词边界。在中文分词中，每个字符的标签不仅取决于自身，还与前后文相关。RNN 直接预测每个字符的标签时，会忽略标签之间的约束关系（如。普通 RNN 只能看到左侧上下文（从左到右），而中文分词需要。依次处理序列中的每个元素，并维护一个。循环神经网络（RNN）的核心优势是。是标签数量，如 4），其中。最常用的分词标注方案是。
（八）深度循环神经网络：长序列建模、注意力机制与多模态融合
最新发布
hanyuge的专栏
06-10 1174
循环神经网络（RNN）及其变体（LSTM 和 GRU）在处理序列数据方面具有独特的优势。RNN 通过循环连接捕捉序列中的时间依赖关系，LSTM 和 GRU 进一步解决了长序列中的梯度消失和爆炸问题。通过合理选择和优化这些模型，可以有效地解决各种序列建模任务。
深入浅出深度学习基础：从感知机到全连接神经网络的核心原理与应用
云云我啊，最喜欢用博客了呢
06-09 621
本文旨在为深度学习初学者提供一个全面的基础入门指南。文章首先从感知机这一神经网络的基石出发，详细讲解了其工作原理和通过调整权重、偏置实现逻辑门的功能，并剖析了其处理非线性问题的局限性。随后，文章引入了多层感知机和全连接神经网络，阐述了其核心结构（输入层、隐藏层、输出层）及各层作用。通过一个实际的拟合案例，文中深入讲解了神经网络的前向计算、参数初始化、损失函数、迭代训练以及至关重要的反向传播（基于链式法则的梯度计算与更新）。此外，文章还介绍了Softmax、交叉熵和独热编码在分类任务中的应用，共同构建了深度学
【深度学习-Day 23】框架实战：模型训练与评估核心环节详解 (MNIST实战)
吴师兄大模型的博客
06-05 1104
本篇文章将聚焦于使用深度学习框架（以 PyTorch 为例，但核心思想同样适用于 TensorFlow/Keras 等）进行模型训练和评估的完整流程。我们将深入探讨训练循环的每一个关键步骤，理解评估模式的重要性，并学习如何计算和解读常用的评估指标。最终，我们将通过一个经典的 MNIST 手写数字识别实战案例，将所有理论知识付诸实践。学完本篇，您将能够独立编写并执行一个完整的模型训练与评估流程，为后续更复杂的项目打下坚实的基础。
【推荐算法】Embedding+MLP：TensorFlow实现经典深度学习推荐模型详解
weixin_43988131的博客
06-04 1103
Embedding+MLP：TensorFlow实现经典深度学习推荐模型详解
自己编写一个神经网络模型识别数字验证码（卷积神经网络的 Hello world）
univerbright的博客
06-06 1362
开篇之前说明一下：本文纯粹是技术交流和探讨，所用数据为非公开数据集，仅限于学习，不可用以商业和其他用途。实现数字验证码识别目标的整体思路是：(1)-->(2)（为了简单，将每张验证码图像中的4个数字切割开来，形成每张图只有1个数字的训练集，并且文件名的第一个字符为训练图的数字，即标签。）-->(3)数据处理方法、模型、训练方法、测试方法-->(4)和保存模型->。本例准备了1143张验证码图像，切割成4572张单个数字的训练图像。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值