62、激活可视化卷积神经网络(matalb)

于 2024-07-14 01:52:30 发布
阅读量418 收藏 14
点赞数 20
分类专栏： 基于matlab的深度学习案例及基础知识汇总 文章标签： cnn 人工智能 神经网络 卷积神经网络 可视化激活 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/XU157303764/article/details/140064810
版权

1、激活可视化卷积神经网络原理及流程

激活可视化（Activation Visualization）指的是通过可视化神经网络中激活函数的输出，来理解神经网络是如何学习并提取特征的过程。在卷积神经网络（CNN）中，我们可以通过可视化激活来观察每个卷积层的特征图，从而更好地理解网络学到的特征。

以下是在MATLAB中激活可视化卷积神经网络的基本原理及流程：

  1. 加载预训练的CNN模型：首先，需要加载预训练好的CNN模型，比如VGG、ResNet等。MATLAB提供了工具箱（如Deep Learning Toolbox）来支持加载和使用这些预训练模型。

  2. 选择要可视化的卷积层：在加载模型后，选择要可视化的具体卷积层。一般来说，选择靠近输出层的卷积层效果比较好，因为这些层更抽象地表示了输入图像的特征。

  3. 提取特征图：通过将输入图像传递给加载的CNN模型，并获取所选卷积层的输出特征图。在MATLAB中可以使用提供的函数来实现这一步骤。

  4. 可视化激活：最后，可以通过将提取的特征图进行可视化，如绘制热图（heatmap）来展示每个特征图的激活程度。这可以帮助我们看到网络是如何在不同层次上学习到不同的特征，并理解其工作原理。

总的来说，激活可视化是一种强大的工具，可以帮助我们理解卷积神经网络的内部工作机制，以及网络是如何对输入数据进行处理和特征提取的。在MATLAB中，使用预训练模型和相应的工具函数可以相对容易地实现这一过程。

2、激活可视化卷积神经网络说明

1）方案

将图像馈送到卷积神经网络并显示网络的不同层的激活

2）实现

通过将激活区域与原始图像进行比较，检查激活并发现网络学习的特征。发现较浅层中的通道学习颜色和边缘等简单特征，而较深层中的通道学习复杂特征。

 

3、加载预训练的网络和数

1）加载预训练的网络和数据

代码

net = squeezenet;

2）读取并显示图像，保存图像大小

代码

im = imread('C:\Users\16023\Desktop\激活可视化卷积神经网络\CT1.png');
imshow(im)
imgSize = size(im);
imgSize = imgSize(1:2);

视图效果

ade53548521740d2a5ab573592ba8519.png

4、查看网络架构

1）说明

卷积层使用可学习的参数执行卷积。网络学习识别有用的特征，通常每个通道对应一个特征。观察到第一个卷积层有 64 个通道。

图像输入层指定输入大小，可以在将图像通过网络之前调整图像大小，

2）实现代码

analyzeNetwork(net)

3）视图效果

c5fca8ee07a14a9d9bb28b657e903483.png

5、显示第一个卷积层的激活

1）说明1

观察卷积层中的哪些区域在图像上激活，并将其与原始图像中的相应区域进行比较，以研究特征。卷积神经网络的每层由许多称为通道的二维数组组成。用图像对网络进行一轮训练，并检查 conv1 层的输出激活。

2）实现代码

act1 = activations(net,im,'conv1');

3） 说明2

激活以三维数组的形式返回，其中第三个维度对 conv1 层上的通道进行索引。要使用 imtile 函数显示这些激活，请将数组重构为四维。imtile 的输入中的第三个维度表示图像颜色。将第三个维度的大小设置为 1，因为激活没有颜色。第四个维度对通道进行索引。

4）实现代码

sz = size(act1);
act1 = reshape(act1,[sz(1) sz(2) 1 sz(3)]);

5）显示激活

说明：每个激活都可能采用任何值，因此请使用 mat2gray 归一化输出。缩放所有激活值，以使最小激活值为 0，最大激活值为 1。在 8×8 网格上显示 64 个图像，层中的每个通道对应一个图像。

6）实现代码

I = imtile(mat2gray(act1),'GridSize',[8 8]);
imshow(I)

7）视图效果

 a32ac66755524d66a85bb0b84e15716c.png

 

 

6、调查特定通道中的激活

1)说明

激活网格中的每个图块都是 conv1 层中某个通道的输出。白色像素表示强的正激活，黑色像素表示强的负激活。主要为灰色的通道未对输入图像进行强烈激活。通道激活中的像素位置对应于原始图像中的相同位置。通道中某个位置的白色像素表示该通道在该位置强激活。

调整通道 22 中的激活大小以使其与原始图像具有相同的大小，并显示激活。

2）代码

act1ch22 = act1(:,:,:,22);
act1ch22 = mat2gray(act1ch22);
act1ch22 = imresize(act1ch22,imgSize);

I = imtile({im,act1ch22});
imshow(I)

3）视图效果

 9addff80ce2143398138ee6c447e9125.png

7、查找最强的激活通道

1）说明

使用 max 函数查找具有最多激活值的通道，调整大小并显示这些激活值

2）代码

[maxValue,maxValueIndex] = max(max(max(act1)));
act1chMax = act1(:,:,:,maxValueIndex);
act1chMax = mat2gray(act1chMax);
act1chMax = imresize(act1chMax,imgSize);

I = imtile({im,act1chMax});
imshow(I)

3）视图效果

fc2ff8ca60ea4fefa892bfa6df5151fd.png

8、调查更深的层

1）说明

多数卷积神经网络在第一个卷积层中学习检测颜色和边缘等特征。在更深的卷积层中，网络学习检测更复杂的特征。较深的层通过组合较浅层的特征来构建其特征。

2）调查 fire6-squeeze1x1 层

以调查 conv1 层的方式调查 fire6-squeeze1x1 层。计算、重构并在网格中显示激活。

3）代码

act6 = activations(net,im,'fire6-squeeze1x1');
sz = size(act6);
act6 = reshape(act6,[sz(1) sz(2) 1 sz(3)]);

I = imtile(imresize(mat2gray(act6),[64 64]),'GridSize',[6 8]);
imshow(I)

4）视图效果

9a599dccad5f4f3dba68dae58bf39856.png

5）显示 fire6-squeeze1x1 层中最强的激活

代码

[maxValue6,maxValueIndex6] = max(max(max(act6)));
act6chMax = act6(:,:,:,maxValueIndex6);
imshow(imresize(mat2gray(act6chMax),imgSize))

视图效果 

a7a6ab444d354b42a3b7666e0de1705d.png

6)调查通道 14 和 47

代码

I = imtile(imresize(mat2gray(act6(:,:,:,[14 47])),imgSize));
imshow(I)

视图效果

3952d218f7cd45c3b5006683001d1c57.png

7） 可视化 fire6-relu_squeeze1x1 层的激活

代码

act6relu = activations(net,im,'fire6-relu_squeeze1x1');
sz = size(act6relu);
act6relu = reshape(act6relu,[sz(1) sz(2) 1 sz(3)]);

I = imtile(imresize(mat2gray(act6relu(:,:,:,[14 47])),imgSize));
imshow(I)

视图效果

dd4e8227b5214c3c9a0811d6fd63a1bb.png

9、总结

激活可视化是一种重要的技术，可以帮助我们理解卷积神经网络（CNN）中每个卷积层学到的特征，并揭示网络对输入数据的处理方式。在MATLAB中，可以通过以下步骤实现激活可视化：

  1. 加载预训练的CNN模型：使用MATLAB的Deep Learning Toolbox加载预训练好的CNN模型，比如VGG、ResNet等。

  2. 选择要可视化的卷积层：选择CNN模型中的某个卷积层，通常选择靠近输出层的卷积层以观察更抽象的特征。

  3. 提取特征图：通过将输入图像传入 CNN 模型并获取选择的卷积层的输出特征图。

  4. 可视化激活：对提取的特征图进行可视化，例如生成热图（heatmap）展示每个特征图的激活程度。

激活可视化可以帮助我们更好地理解神经网络的工作原理，识别网络中学到的关键特征，优化网络结构和调整超参数。通过MATLAB提供的功能和工具，可以相对容易地进行激活可视化的实现，从而加深对 CNN 内部工作方式的理解，并进一步改进和优化模型效果。

9、源代码

代码

%% 激活可视化卷积神经网络
%将图像馈送到卷积神经网络并显示网络的不同层的激活
%通过将激活区域与原始图像进行比较，检查激活并发现网络学习的特征。发现较浅层中的通道学习颜色和边缘等简单特征，而较深层中的通道学习眼睛等复杂特征。


%% 加载预训练的网络和数据
%加载预训练的网络和数据
net = squeezenet;
%读取并显示图像，保存图像大小，
im = imread('C:\Users\16023\Desktop\激活可视化卷积神经网络\CT1.png');
imshow(im)
imgSize = size(im);
imgSize = imgSize(1:2);
%% 查看网络架构
%卷积层使用可学习的参数执行卷积。网络学习识别有用的特征，通常每个通道对应一个特征。观察到第一个卷积层有 64 个通道。
%图像输入层指定输入大小，可以在将图像通过网络之前调整图像大小，

analyzeNetwork(net)
%% 显示第一个卷积层的激活
%观察卷积层中的哪些区域在图像上激活，并将其与原始图像中的相应区域进行比较，以研究特征。卷积神经网络的每层由许多称为通道的二维数组组成。用图像对网络进行一轮训练，并检查 conv1 层的输出激活。
act1 = activations(net,im,'conv1');
%激活以三维数组的形式返回，其中第三个维度对 conv1 层上的通道进行索引。要使用 imtile 函数显示这些激活，请将数组重构为四维。imtile 的输入中的第三个维度表示图像颜色。将第三个维度的大小设置为 1，因为激活没有颜色。第四个维度对通道进行索引。

sz = size(act1);
act1 = reshape(act1,[sz(1) sz(2) 1 sz(3)]);
%显示激活。每个激活都可能采用任何值，因此请使用 mat2gray 归一化输出。缩放所有激活值，以使最小激活值为 0，最大激活值为 1。在 8×8 网格上显示 64 个图像，层中的每个通道对应一个图像。
I = imtile(mat2gray(act1),'GridSize',[8 8]);
imshow(I)

%% 调查特定通道中的激活
%激活网格中的每个图块都是 conv1 层中某个通道的输出。白色像素表示强的正激活，黑色像素表示强的负激活。主要为灰色的通道未对输入图像进行强烈激活。通道激活中的像素位置对应于原始图像中的相同位置。通道中某个位置的白色像素表示该通道在该位置强激活。
%调整通道 22 中的激活大小以使其与原始图像具有相同的大小，并显示激活。
act1ch22 = act1(:,:,:,22);
act1ch22 = mat2gray(act1ch22);
act1ch22 = imresize(act1ch22,imgSize);

I = imtile({im,act1ch22});
imshow(I)
%% 查找最强的激活通道
%使用 max 函数查找具有最多激活值的通道，调整大小并显示这些激活值。
[maxValue,maxValueIndex] = max(max(max(act1)));
act1chMax = act1(:,:,:,maxValueIndex);
act1chMax = mat2gray(act1chMax);
act1chMax = imresize(act1chMax,imgSize);

I = imtile({im,act1chMax});
imshow(I)

%% 调查更深的层
%多数卷积神经网络在第一个卷积层中学习检测颜色和边缘等特征。在更深的卷积层中，网络学习检测更复杂的特征。较深的层通过组合较浅层的特征来构建其特征。
%以调查 conv1 层的方式调查 fire6-squeeze1x1 层。计算、重构并在网格中显示激活。
act6 = activations(net,im,'fire6-squeeze1x1');
sz = size(act6);
act6 = reshape(act6,[sz(1) sz(2) 1 sz(3)]);

I = imtile(imresize(mat2gray(act6),[64 64]),'GridSize',[6 8]);
imshow(I)
%显示 fire6-squeeze1x1 层中最强的激活。
[maxValue6,maxValueIndex6] = max(max(max(act6)));
act6chMax = act6(:,:,:,maxValueIndex6);
imshow(imresize(mat2gray(act6chMax),imgSize))
%调查通道 14 和 47。
I = imtile(imresize(mat2gray(act6(:,:,:,[14 47])),imgSize));
imshow(I)
%可视化 fire6-relu_squeeze1x1 层的激活
act6relu = activations(net,im,'fire6-relu_squeeze1x1');
sz = size(act6relu);
act6relu = reshape(act6relu,[sz(1) sz(2) 1 sz(3)]);

I = imtile(imresize(mat2gray(act6relu(:,:,:,[14 47])),imgSize));
imshow(I)

工程文件

https://download.csdn.net/download/XU157303764/89496035

 

 

逼子格
关注
  • 20
    点赞
  • 踩
  • 14
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
基于卷积神经网络CNN的分类研究，基于卷积神经网络的手写体识别
abc991835105的博客
03-03 1417
卷积神经网络是一种深度学习网络，可以处理大输入数据，训练过程就是一种降维的过程，对处理图像数据，输入量比较大，有独特的优势，本文用卷积神经网络CNN进行手写体数字识别
matlab深度学习基本操作，深度学习讲解，源代码分享，用一用改一改随便发篇EI
weixin_43967360的博客
07-09 3543
神经网络工具箱™提供了算法、预训练模型和应用程序来创建、训练、可视化和模拟浅层和深层神经网络。您可以执行分类、回归、聚类、降维、时间序列预测以及动态系统建模和控制。 深度学习网络包括卷积神经网络(ConvNets, CNNs)、有向无环图(DAG)网络拓扑，以及用于图像分类、回归和特征学习的自动编码器。对于时间序列分类和回归，工具箱提供了长期短期记忆(LSTM)深度学习网络。您可以可视化中间层和激活，修改网络架构，并监控培训进度。 对于小的训练集，您可以通过使用预先训练的深度网络模型(包括Inception
机器学习----matlab中的CNN
热门推荐
小崔童鞋的博客
06-03 4万+
1.前言最近需要用到卷积神经网络(CNN)，在还没完全掌握cuda+caffe+TensorFlow+python这一套传统的深度学习的流程的时候，想到了matlab，自己查了一下documentation,还真的有深度学习的相关函数。所以给自己提个醒，在需要用到某个成熟的技术时先查一下matlab的帮助文档，这样会减少很多时间成本。记得机器学习的大牛Andrew NG.说过在硅谷好多人都是先用ma
MATLAB实现自编码器（六）——变分自编码器（VAE）官网代码的改进
qq_36108664的博客
08-24 7440
本文内容参考了Conditional VAE (Variational Auto Encoder) 条件付きVAE
基于MATALB编程的卷积神经网络CNN的地震等级预测
04-05
卷积神经网络（CNN）是一种深度学习模型，广泛应用于图像识别、自然语言处理等领域，而在这个项目中，它被应用于地震等级的预测。基于MATLAB编程的CNN模型为地震信号数据提供了一种强大的分析工具，能够提取特征并...
用MATLAB实现卷积神经网络CNN，并对图像进行特征提取_cnn图像处理matlab,cnn特征提取matalb
05-26
用MATLAB实现卷积神经网络，并对图像进行特征提取 文件列表： CNN CNN\cnnapplygrads.m CNN\cnnbp.m CNN\cnnff.m CNN\cnnnumgradcheck.m CNN\cnnsetup.m CNN\cnntest.m CNN\cnntrain.m CNN\expand.m CNN\...
基于MATALB编程的卷积神经网络水果分类识别，橘子等级识别
04-05
压缩包里面包含橘子数据集，分为两类，首先对图像进行滤波，去噪，二值化等预处理，然后提取特征，最好用卷积神经网络进行建模分类，并测试，准确率百分之90以上，代码可以运行，MATALB打开主函数，直接运行就可以...
基于MATALB编程的自定义归一化函数遗传算法改进的BP神经网络
04-05
对归一化函数进行了自定义编程，并封装为函数，不需要调用MATLAB自带的归一化函数，方便自己设置，BP的网络的权重阈值通过遗传算法进行优化，通过优化后的BP神经网络进行建模测试，并和没有改进的BP神经网络进行对比...
matlab实现LeNet.rar_matlab lenet_卷积_卷积神经网络MATLAB_图片 分类_神经网络分类
07-14
卷积神经网络（Convolutional Neural Networks，简称CNN）是一种深度学习模型，广泛应用于图像识别、分类和物体检测等领域。LeNet是最早被提出的卷积神经网络之一，由Yann LeCun等人在1998年提出，主要用于手写数字...
AGI 之 【Hugging Face】 的【问答系统】的 [构建问答系统] / [ 构建基于评论的问答系统 ] 的简单整理
仙魁XAN
07-12 702
AGI，即通用人工智能（Artificial General Intelligence），是一种具备人类智能水平的人工智能系统。它不仅能够执行特定的任务，而且能够理解、学习和应用知识于广泛的问题解决中，具有较高的自主性和适应性。AGI的能力包括但不限于自我学习、自我改进、自我调整，并能在没有人为干预的情况下解决各种复杂问题。AGI能做的事情非常广泛：跨领域任务执行：AGI能够处理多领域的任务，不受限于特定应用场景。自主学习与适应：AGI能够从经验中学习，并适应新环境和新情境。
线性代数|机器学习-P22逐步最小化一个函数
scar2016的博客
07-10 861
主要讲的是无约束情况下的最小值问题。矩阵求导泰勒公式，函数到向量的转换梯度下降牛顿法梯度下降。
聊聊如何在内网下构建大模型微调环境
python1234567_的博客
07-12 683
LlamaFactory新版更新后，还是比较方便，只是说llamafactory-cli命令的确是有点蒙，踩个坑就好了。对于LlamaFactory微调来说，本身不难，毕竟都是配置；主要是在内网环境下的依赖包拉取安装是真麻烦，但其实也还好。走一遍的话，还是可以学到很多的。​。
YOLOv10改进 | 特殊场景检测篇 | 轻量级的低照度图像增强网络IAT改进YOLOv10暗光检测（全网独家首发）
Snu77的博客
07-11 1万+
本文给大家带来的改进机制是轻量级的变换器模型：Illumination Adaptive Transformer (IAT)，用于图像增强和曝光校正。其基本原理是通过分解图像信号处理器（ISP）管道到局部和全局图像组件，从而恢复在低光或过/欠曝光条件下的正常光照sRGB图像。具体来说，IAT使用注意力查询来表示和调整ISP相关参数，例如颜色校正、伽马校正。模型具有约90k参数和约0.004s的处理速度，能够在低光增强和曝光校正的基准数据集上持续实现优于最新技术（State-of-The-Art, SOTA）
人力资源人工智能依赖于良好的数据
最新发布
yongyoudayee的博客
07-12 575
人力资源不断发展(HR)人工智能在技术领域(AI)它已经成为改变游戏规则的力量。人工智能驱动的工具有望简化人力资源流程，提高管理能力，彻底改变员工体验。然而，这些人工智能解决方案的有效性仅取决于算法的复杂性或计算硬件的能力。事实上，这种模式的很大一部分取决于一个基本的——良好的数据。
阿里发布大模型发布图结构长文本处理智能体，超越GPT-4-128k
夕小瑶科技说
07-09 848
随着大语言模型的发展，处理长文本的能力成为了一个重要挑战。虽然有许多方法试图解决这个问题，但都存在不同程度的局限性。最近，阿里巴巴的研究团队提出了一个名为GraphReader的新方法，通过将长文本组织成图结构，并利用智能体来探索这个图，成功提升了模型处理长文本的能力。GraphReader的核心思想是将长文本分解成关键元素和原子事实，构建成一个图，然后让智能体在这个图中探索和推理。这种方法不仅能有效处理超长文本，还在多跳问答等复杂任务上取得了优异表现。
AI技术的转变：从辨别式到生成式
学IT，找陈寒
07-09 3334
李彦宏在2024世界人工智能大会上的发言，提醒我们在AI技术发展的道路上，不要盲目追求技术本身或表面的用户数据，而应更多地关注技术的实际应用和产业价值。在大模型技术与个性化应用之间找到平衡，将是未来发展的关键。作为AI从业者和技术爱好者，我们应以务实的态度，探索AI技术在各个领域的实际应用，为产业发展和社会进步贡献力量。通过李彦宏的发言，我深刻认识到AI技术发展的方向和挑战，也更加坚定了自己在这一领域继续探索和创新的信心。未来，愿我们共同努力，推动AI技术更好地服务于社会和产业，为人类创造更美好的未来。
7.深度学习概述
MechMaster
07-10 943
1. 线性回归 1.1 线性回归一般表达式 1.2 线性回归内积表达方式： 1.3 多个样本时，线性回归的进一步表达： 1.4 线性回归方程的解析 1.5 线性回归就是求loss函数的最小值 2. 如何求函数最小值 2.1 一个例子 2.2 求导法——求最小值 2.3 求导法存在的问题 2.4 迭代法——求最小值 3. 代码实现 3.1 手动求函数最小值 3.2 使用pytorch求函数最小值
Hugging Face使用笔记
人无远虑，必有近忧
07-09 1528
Hugging Face Hub和 Github 类似，都是Hub(社区)。Hugging Face可以说的上是机器学习界的Github。hugging face在NLP领域最出名，其提供的模型大多都是基于Transformer的。
matalb三维聚类可视化
04-03
MATLAB可以使用以下步骤进行三维聚类可视化： 1.准备数据： 包含三维坐标和聚类标签的数据集。 2.使用聚类算法： 使用MATLAB内置的聚类算法或自定义聚类算法对数据进行聚类。 3.创建三维图形： 使用MATLAB的三维图形工具箱创建一个三维坐标系。 4.根据聚类标签设置颜色： 将聚类标签映射到颜色，以便在图形中区分不同的聚类。 5.使用散点图表示数据： 将聚类数据表示为使用散点图，其中每个聚类使用不同的颜色表示。 6.添加标签和标题： 添加图形的标题和轴标签，以便更好地理解数据。 以下是一个示例代码，用于三维聚类可视化： ``` % 准备数据 data = randn(100,3); labels = kmeans(data,3); % 创建三维图形 figure; scatter3(data(:,1),data(:,2),data(:,3),10,'filled'); % 根据聚类标签设置颜色 colormap(lines(3)); color = labels; % 使用散点图表示数据 hold on; scatter3(data(:,1),data(:,2),data(:,3),10,color,'filled'); % 添加标签和标题 xlabel('X'); ylabel('Y'); zlabel('Z'); title('三维聚类可视化'); ``` 这段代码生成了一个三维散点图，其中每个数据点用一个小圆圈表示，颜色代表它所属的聚类。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

逼子格

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值