卷积神经网络的维度变化

最新推荐文章于 2025-02-27 17:39:33 发布
最新推荐文章于 2025-02-27 17:39:33 发布
阅读量1.3k 收藏 20
点赞数 7
分类专栏： 笔记 文章标签： 深度学习 cnn 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_53039581/article/details/136340484
版权

卷积层各尺寸

  • 输入矩阵格式：四个维度，依次为：样本数、图像高度、图像宽度、图像通道数

  • 输出矩阵格式：三个维度，依次为：样本数、图像高度、图像宽度、图像通道数

  • 权重矩阵（卷积核）格式：四个维度，依次为：卷积核高度、卷积核宽度、输入通道数、输出通道数（卷积核个数）

注：输入矩阵、权重矩阵、输出矩阵这三者之间的相互决定关系

  • 卷积核的输入通道数（in depth）由输入矩阵的通道数所决定。

  • 输出矩阵的通道数（out depth）由卷积核的输出通道数所决定。

  • 输出矩阵的高度和宽度（height, width）这两个维度的尺寸由输入矩阵、卷积核、扫描方式所共同决定。计算公式如下。（蓝色标注）

在这里插入图片描述

举例

标准卷积计算举例

以 AlexNet 模型的第一个卷积层为例

  • 输入图片的尺寸统一为 227 x 227 x 3 （高度 x 宽度 x 颜色通道数），

  • 本层一共具有96个卷积核，

  • 每个卷积核的尺寸都是 11 x 11 x 3。

  • 已知 stride = 4， padding = 0，

  • 假设 batch_size = 256，

  • 则输出矩阵的高度/宽度为 (227 - 11) / 4 + 1 = 55 在这里插入图片描述

理解：有96个过滤器，每个过滤器有3个卷积核。

1 x 1 卷积计算

后期 GoogLeNet、ResNet 等经典模型中普遍使用一个像素大小的卷积核作为降低参数复杂度的手段。 从下面的运算可以看到，其实 1 x 1 卷积没有什么神秘的，其作用就是将输入矩阵的通道数量缩减后输出（512 降为 32），并保持它在宽度和高度维度上的尺寸（227 x 227）。

原理：卷积核的个数决定了输出的特征图的个数，也就是特征图的通道数，或者说是卷积后的输出的通道数，因此可以使用远小于原来的输入特征图通道数个1×1卷积核来压缩通道数。 在这里插入图片描述

理解：有32个过滤器，每个过滤器有512个卷积核。

全连接层计算举例

实际上，全连接层也可以被视为是一种极端情况的卷积层，其卷积核尺寸就是输入矩阵尺寸，因此输出矩阵的高度和宽度尺寸都是1。 在这里插入图片描述

理解：有4096个过滤器，每个过滤器有512个卷积核。

理解输出通道数

首先提出一个过滤器的概念：

  • 卷积核就是由长和宽来指定的，是一个二维的概念。

  • 而过滤器是是由长、宽和深度指定的，是一个三维的概念。

  • 过滤器可以看做是卷积核的集合。

  • 过滤器比卷积核高一个维度——深度。

通过概念可以明白，输出通道数即过滤器的个数，输入图像的通道数就代表一个过滤器包含几个卷积核。

举个例子便于理解：

计算机视觉卷积神经网络CNN架构设计指南：如何构建高效的视觉模型？
CSDN博客专家，系统架构师，有合作、疑惑请私信博主。
04-20 9万+
计算机视觉CNN架构设计指南：如何构建高效的视觉模型？人工智能、大模型、AI、计算机视觉领域，卷积神经网络（Convolutional Neural Network，CNN）已成为主导性的模型架构。从图像分类到目标检测，从语义分割到图像生成，CNN 展现出了强大的性能。构建一个高效的 CNN 视觉模型，不仅需要对其基本原理有深入理解，还需要掌握一系列架构设计技巧。本文将详细探讨如何构建高效的 CNN 视觉模型，涵盖从基础概念到复杂架构设计的各个方面，并通过丰富的代码示例帮助读者更好地理解和实践。
PyTorch实战：卷积神经网络详解+Python实现卷积神经网络Cifar10彩色图片分类
master_hunter的博客
09-22 8061
PyTorch可以说是三大主流框架中最适合初学者学习的了，相较于其他主流框架，PyTorch的简单易用性使其成为初学者们的首选。这样我想要强调的一点是，框架可以类比为编程语言，仅为我们实现项目效果的工具，也就是我们造车使用的轮子，我们重点需要的是理解如何使用Torch去实现功能而不要过度在意轮子是要怎么做出来的，那样会牵扯我们太多学习时间。以后就出一系列专门细解深度学习框架的文章，但是那是较后期我们对深度学习的理论知识和实践操作都比较熟悉才好开始学习，现阶段我们最需要的是学会如何使用这些工具。
卷积神经网络的维度的变化
sinat_36515789的博客
11-05 2758
如下图一个简单的卷积神经网络的结构: 可以得到的是:池化层是对维度进行除操作,并且向下取整 class Twolayer(nn.Module): def __init__(self,embedding,filter_num): super(Twolayer,self).__init__() self.embedding_len = embedding # 词向量长度 300 self.surface_length = 10 self
卷积神经网络计算过程中的维度变化
macanv的专栏
10-30 6471
最近在学习pyTorch, 在阅读pytorch教程的时候，发现有一个简单的卷积神经网络，之前搞明白过这个过程，时间太久，都忘的差不多了， 正好写个笔记记录总结一下 代码如下： #! usr/bin/env python3 # -*- coding:utf-8 -*- """ @Author：MaCan @Time：2019/10/29 19:59 @File：torch_net.py ...
终于把神经网络算法搞懂了！！
最新发布
2401_84204207的博客
02-27 1355
今天给大家分享一个强大的算法模型，神经网络算法神经网络算法（Neural Network）是一种模拟生物神经系统的计算模型，广泛应用于机器学习、模式识别、计算机视觉和自然语言处理等领域。它通过一系列连接的节点（称为神经元）进行信息的传递与处理，并通过训练数据调整网络结构中的权重，使其能够对新的输入数据做出正确的预测或分类。
卷积神经网络维度变化
qq_37340588的博客
01-03 443
https://blog.csdn.net/qq_34107425/article/details/104117670
卷积运算和特征图的维度变换
m0_53817749的博客
04-29 2762
卷积运算基本知识
卷积层的维度变化
weixin_34194702的博客
06-20 1049
import keras from keras import Sequential model = Sequential() model.add(keras.layers.Conv2D(input_shape=(28, 28, 1), kernel_size=(5,5), filters=20, activation='relu')) model.add(keras.layers....
cnn卷积神经网络反向传播,卷积神经网络维度变化
神经网络爱好者
08-07 773
深度学习框架，尤其是基于人工神经网络的框架可以追溯到1980年福岛邦彦提出的新认知机[2]，而人工神经网络的历史更为久远。1989年，燕乐存（YannLeCun）等人开始将1974年提出的标准反向传播算法[3]应用于深度神经网络，这一网络被用于手写邮政编码识别。尽管算法可以成功执行，但计算代价非常巨大，神经网路的训练时间达到了3天，因而无法投入实际使用[4]。...
卷积神经网络pdf讲义超详细
10-18
### 卷积神经网络(CNN)超详细讲义解析 #### 一、卷积神经网络(CNN)简介 ##### 1.1 卷积神经网络概述 **1.1.1 卷积** - **定义**：卷积是CNN中的核心操作之一，它通过将一个小的权重矩阵（称为卷积核或滤波器）与...
[AI算法][深度学习]：卷积神经网络中卷积和池化特征图的维度变化（不能被整除问题）
Bin_Dut的博客
05-13 4973
在卷积的过程中，卷积核大小kernel_sizekernel\_sizekernel_size，填充PaddingPaddingPadding，步长StrideStrideStride。都会影响卷积输出的维度。假设输入维度为H∗W∗CH*W*CH∗W∗C，卷积核的大小为kkk，填充值为ppp，步长为sss，则输出特征图的维度为H′∗W′∗C′H'*W'*C'H′∗W′∗C′，参数量为：k2× C× C′+C′k^2\times\ C\times\ C'+C'k2× C×&nbs
卷积与池化过程维度尺寸变化与一些名词整理
TranSad的博客
02-22 4981
之前整理过全连接层的前向传播过程中一些权重参数的维度。这篇文章整理一下带有卷积与池化的神经网络。还是直接给一个例子，从例子出发把各个方面梳理一下。 以AlexNet为例（如下图）： 卷积 卷积的作用在于提取特征。可以用不同的卷积核提取不同层次的特征 一般用到卷积和池化的网络都是用于图像任务，我们的输入一般就是一个三通道图像，比如上图中输入图像的尺寸为227*227*3。 在上图也就是第一步卷积中，对于输入尺寸为227*227*3的图像，虽然图中写了卷积核的尺寸是11*1...
卷积神经网络图像尺度变化
Csyunling
04-18 435
p---填充k---卷积核的大小s---步幅。
深度学习｜表示学习｜卷积神经网络｜详细推导每一层的维度变化｜14
公众号：快乐变态屋 漂亮大男孩的罗德岛
01-27 1168
一个经典的卷积神经网络（CNN）架构，呈现的是输入图像通过多个卷积层、池化层以及全连接层，最终输出分类结果的过程。，我们可以通过卷积核大小、步长、填充和池化操作的参数，来推导每一层的维度变化。
卷积神经网络图片的尺寸变化及其推导
weixin_43918691的博客
09-30 2391
大部分转自：https://blog.csdn.net/qq_36444039/article/details/103984502 相信很多同学搞机器学习的时候，每一步卷积池化以后，对图片的尺寸和大小很迷茫，不知道如何计算的。 这里，我给大家分享几个公式，帮助大家理解。不明白的欢迎在下方留言。 1、卷积层（Conv Layer）的输出张量（图像）的大小 定义如下： O=输出图像的尺寸。 I=输入图像的尺寸。 K=卷积层的核尺寸 N=核数量 S=移动步长 P =填充数 输出图像尺寸的计算公式如下： 上述公式
各维度卷积神经网络内容收录
06-30 1962
卷积神经网络（CNN），通常是指用于图像分类的2D CNN。但是，现实世界中还使用了其他两种类型的卷积神经网络，即1D CNN和3D CNN。在2D CNN中，内核沿2个方向移动。2D CNN的输入和输出数据是3维的。主要用于CV领域，图像数据（在视频的处理中，是对每一帧图像分别利用CNN来进行识别，没有考虑时间维度的信息）。在3D CNN中，内核在3个方向上移动。3D CNN的输入和输出数据是4维的。通常用于3D 图像数据（MRI，CT扫描）。
【助记】CNN的维度变化
frostime的博客
02-16 1019
Size In Covolutional Layer: l \text{Size In Covolutional Layer: l}\\ Size In Covolutional Layer: l Filter Size:f[l]Width and hight of a...
卷积神经网络中每层矩阵维度变化
ORIGINAL GEOMETRY
11-16 1万+
卷积神经网络在图像识别上已经相当成熟．经典的识别手写字的卷积神经网络LeNet-5模型为７层的神经网络．其中每一层上面矩阵的维度的变换是图像像素得到识别的重点，而矩阵维度的变换是每一层之间使用卷积核大小所决定．LeNet-5模型在识别手写字方面最为经典： （第０层），卷积神经网络的输入层为图片的矩阵，输入的图片为３２＊３２，因为每次输入的图片张数为１，因此input层的矩阵大小为：３２＊３２＊１．
CNN卷积池化后维度的变化
热门推荐
L.Z.的博客
02-23 1万+
CNN的卷积操作后维度变化： 输入维度：，分别代表输入样本的长宽高 卷积操作的超参数 卷积核个数： 卷积核大小： 滑动步长（Stride）： 填充（Padding）： 则输出的维度为，其中 由于CNN的参数共享机制，每个卷积核的参数个数为，共有个权重和个偏置 若想要卷积后得到的矩阵长宽与卷积前保持一致，则当时 卷积核为3时 padding 选择1 ...
python卷积神经网络维度
02-20
### Python 中卷积神经网络的维度计算与处理 在构建卷积神经网络（CNN）时，理解输入和各层之间的尺寸变化至关重要。对于给定的输入图像大小，在经过不同类型的层之后，输出特征图的尺寸会发生相应的变化。 #### 输入层到卷积层的维度变换 假设有一个形状为 \( (N, C_{in}, H_{in}, W_{in}) \) 的四维张量作为输入，其中： - N 表示批次大小； - \(C_{in}\) 是通道数（灰度图为1，RGB彩色图片则为3）； - \(H_{in}\),\(W_{in}\) 分别代表高度和宽度。 当这个输入通过一个具有特定参数设置的二维卷积操作后，其输出尺寸可以通过下面公式来估算: \[ H_{out} = \left\lfloor{\frac{H_{in} + 2p - k}{s}}\right\rfloor + 1,\quad W_{out}=\left\lfloor {\frac {W_{in}+2p-k}{s}}\right\rfloor +1 \] 这里， - p 为填充(padding)，默认值通常是0； - k 为核(kernel size)，即滤波器窗口的高度/宽度； - s 则表示步幅(stride)[^1]。 ```python import torch.nn as nn conv_layer = nn.Conv2d(in_channels=3, out_channels=64, kernel_size=(5, 5)) input_tensor = torch.randn((8, 3, 224, 224)) # batch_size=8, channels=3, height=width=224 output_tensor = conv_layer(input_tensor) print(f'Output shape after Conv layer: {output_tensor.shape}') ``` #### 卷积层至池化层后的维度调整 接着上述过程得到的新特征映射会进一步传递给最大池化(Max Pooling)或其他形式的下采样层。同样地，可以依据类似的逻辑推导出最终输出的空间分辨率： \[ H^{'}_{out}= \left\lfloor{\frac{{H}_{out}-k_p }{s_p }}\right\rfloor +1 ,\qquad W^{'} _{out}=\left\lfloor {\frac {{W}_{out}-{k}_p }{{s}_p }}\right\rfloor +1 \] 此处, - \(k_p\) 和 \(s_p\) 分别指定了池化的内核大小与移动距离[^2]。 ```python pool_layer = nn.MaxPool2d(kernel_size=(2, 2), stride=2) after_pool_output = pool_layer(output_tensor) print(f'Shape after MaxPooling layer: {after_pool_output.shape}') ``` #### 多层结构中的维度演变规律 随着更多卷积层、激活函数以及可能存在的批标准化(batch normalization)等组件加入进来，每一阶段都会按照前述原则影响着整体的数据流形态。值得注意的是，在某些特殊情况下——比如采用全局平均池化(global average pooling)—可能会改变原有的模式；而在其他时候，则需特别留意防止因过度缩小而导致的信息丢失问题[^3]。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值