神经网络尺寸和参数量计算

最新推荐文章于 2023-05-23 16:59:41 发布
最新推荐文章于 2023-05-23 16:59:41 发布
阅读量1.8k 收藏 2
点赞数 1
分类专栏： 神经网络基础知识
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Nick_Dizzy/article/details/104228037
版权
这篇博客主要介绍了神经网络中卷积层的参数计算方法，包括卷积层的参数量计算公式，并探讨了不使用填充时的输出尺寸计算。内容引用自多个资源，旨在帮助读者理解和记忆这些关键计算。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

前言

这里写个参数计算，会借鉴各路大神的杰作，主要是整理一下怕自己以后忘了找起来麻烦
大部分引自https://blog.csdn.net/qian99/article/details/79008053

参数计算方法

首先是卷积层的计算

下面是一个32x32x3的输入，我们用5x5x3的滤波器去卷积

在这里插入图片描述
所以最后是553=75的一个参数量

在这里插入图片描述那么最后的输出也是需要一个公式的，一般我们如果使用填充将不改变输出尺寸，而只改变滤波器数量。
那么如果不使用填充，则见下面的输出计算

如果上面我用了6个滤波器，那么输出为28x28x6，则参数量为5x5x3x6+6=456

对CNN而言，每个卷积层的参数量计算如下：

在这里插入图片描述

在这里插入图片描述

最低0.47元/天 解锁文章
神经网络中参数量以及计算量的计算
weixin_36083125的博客
07-21 1432
一个k×k的卷积，执行一次卷积操作，需要k×k次乘法操作（卷积核中每个参数都要和特征图上的元素相乘一次），k×k−1 次加法操作（将卷积结果，k×k 个数加起来）。在一个特征图上需要执行的卷积次数：(（H-k+Ph）/S +1 )×(（H-k+Pw）/S +1)，Ph，Pw表示在高和宽方向填充的像素，此处假定了宽高方向滑动步长和核的宽高是一样，若不同，调整一下值即可。假设输入特征图（B，C，H，W），卷积核大小为K×K， 输入通道为C，输出通道为N，步长stride为S， 输出特征图大小为H2，W2.
分析神经网络参数量及计算量
xue_csdn的博客
04-08 3918
知乎上有一篇文章，介绍了网络的时间复杂度和空间复杂度https://zhuanlan.zhihu.com/p/31575074 只有卷积操作和全连接操作会有参数的增加，池化不会。 1、卷积操作参数量及计算量 以VGG16网络为例， 第一层卷积图像输入为224x224x3，输出224×224×64，卷积核大小3×3，因此 计算量： 参数量： 参数量计算中，3x3x3是三...
神经网络参数量计算
08-01
do_calc_net_cost.m 计算神经网络复杂度的Matlab函数代码，希望能对大家有所帮助
卷积神经网络参数计算及卷积层输出尺寸计算
weixin_30855761的博客
03-20 3942
一、卷积神经网络参数计算 CNN一个牛逼的地方就在于通过感受野和权值共享减少了神经网络需要训练的参数的个数，所谓权值共享就是同一个Feature Map中神经元权值共享，该Feature Map中的所有神经元使用同一个权值。因此参数个数与神经元的个数无关，只与卷积核的大小及Feature Map的个数相关。但是共有多少个连接个数就与神经元的个数相关了，神经元的个数也就是特征图的大小。 ...
神经网络参数量的计算
晓野豬
10-26 8901
文章目录1. 理论公式2. CNN 参数数量3. UNet 参数数量   参数量是指模型的所有带参数的层的权重参数总量。视觉类网络组件中带参数的层主要有：卷积层、BN 层、全连接层等。（注意：激活函数层（relu等）和 Maxpooling 层、Upsample 层是没有参数的，不需要学习，他们只是提供了一种非线性的变换） 1. 理论公式 卷积层：K2×Ci×Co+Co\rm K^{2} \times C_i \times C_o + C_oK2×Ci​×Co​+Co​ 其中，K\rm KK 为卷积核
深度解析卷积神经网络中的卷积计算：参数量和计算量详细分析及其优化方案
最新发布
02-28
这种方式显著降低了参数量和计算量，参数量计算公式为D*D*M，计算量为D*D*M*Df*Df。例如，使用3*3卷积核和3个输入通道时，参数量为27，计算量为27*Df*Df。 逐点卷积（Pointwise Convolution）主要是用来改变特征图...
神经网络中输出特征图尺寸、参数量、感受野、FLOPs等各种计算
Fanniexia的博客
10-21 4028
神经网络相关计算
卷积神经网络基础题——如何计算CNN的参数量？
Lorenzo's Oil
10-09 3788
卷积神经网络基础 如何计算CNN的参数量？ 先从简单的单层结构分析： CNN的单层结构与标准的神经网络单层结构非常相似： Z[l]=W[l]A[l−1]+bA[l]=g[l](Z[l])Z^{[l]}=W^{[l]}A^{[l-1]}+b \\A^{[l]}=g^{[l]}(Z^{[l]})Z[l]=W[l]A[l−1]+bA[l]=g[l](Z[l]) 卷积运算对应着上式中的乘积运算，滤波器组...
如何计算神经网络的参数量以及创建多隐藏层网络（总参数量接近）
Hoper-J的博客
03-15 2454
如何计算神经网络的参数量？ 如何创建多隐藏层的网络？ 如何创建总参数量接近的神经网络？（Deep/Shallow)
卷积神经网络中的bn层应用
09-20
主要为卷积神经网络中的bn层应用，bn层也是一个数据处理的方式，一般位于非线性激活层之前，全连接层之后，本资源涵盖4个代码，分别为bn层建立，cn层在实例中的应用，bn层测试以及有无bn层的对比，供大家更好地了解bn层的作用 本资源为分类实例代码，读者可以更好地通过代码了解bn层
卷积神经网络参数量和计算量的计算
weixin_42784169的博客
05-13 1万+
注意：本文先区分两个概念，再介绍stride = 1情况下CNN卷积的计算参数和计算量。文末会附上不同stride的计算CNN参数量和计算量和使用API自动计算CNN参数量和计算量的博客。 先区分两个概念： FLOPS 注意全部大写 是floating point of per second的缩写，意指每秒浮点运算次数。用来衡量硬件的性能。 FLOPs 是floating point of operations的缩写，是浮点运算次数，可以用来衡量算法/模型复杂度。 注意：以下得计算均默认stride = 1
卷积神经网络参数尺寸计算
qq_42888454的博客
04-07 1615
CNN卷积神经网络输入输出尺寸计算
神经网络尺寸计算，及两个重要函数
贾路飞的博客
02-11 915
每层神经网络输入与输出的关系如下所示： 其中： N表示输出图片尺寸（N×N） W 表示输入图片尺寸（W×W） F 表示卷积核的大小（F×F） S 表示步长 P 表示填充的像素数（Padding） 池化层的计算大致一样，也是利用滤波器的大小 F×F 和...
神经网络参数量(Para)和计算量(FLOPs)的计算方法
weixin_42614350的博客
06-04 4198
参数量和计算量的对比 参数量即算法的空间复杂度，是衡量一个网络的空间大小指标。上升到硬件层次，，参数量对应的是计算机内存资源的消耗。 计算量即算法的时间复杂度，是衡量一个算法速度的指标。上升到硬件层次，计算量对应的是计算时间。 参数量计算方法 标准卷积层的参数量计算 假设卷积核的大小为 k*k, 输入channel为M， 输出channel为N。 bias为True时： 则参数数量为：Para = k×k×M×N + N（bias的数量与输出channel的数量是一样的） bias为False时： 则参数数
实验笔记之——参数量为0.1M的超分网络（octave layer）
gwpscut的博客
05-21 867
本博文为实验笔记 实验python train.py -opt options/train/train_sr.json 先激活虚拟环境source activate pytorch tensorboard --logdir tb_logger/ --port 6008 浏览器打开http://172.20.36.203:6008/#scalars 参数量为176,234 参数量为1...
vgg 16模型的内存和参数量的计算
热门推荐
hzhj的博客
05-02 2万+
    cs231n上关于VGG-16模型的内存和参数的计算过程如下。INPUT: [224x224x3] memory: 224*224*3=150K weights: 0 CONV3-64: [224x224x64] memory: 224*224*64=3.2M weights: (3*3*3)*64 = 1,728 CONV3-64: [224x224x64] ...
VGG16网络的参数和FLOPs计算
lutlx20010913的博客
05-23 5271
VGG16是一种卷积神经网络（Convolutional Neural Network，CNN），是由Simonyan和Zisserman于2014年提出的用于图像识别任务的其中一种网络结构。VGG16网络包含13个卷积层和3个全连接层，在ImageNet数据集上表现出色，并成为后来CNN结构的基础。下面对VGG16网络的参数和FLOPs进行计算。
神经网络参数量的计算公式
01-16
### 神经网络参数量计算 对于人工神经网络而言，理解其内部结构有助于掌握参数量的计算方式。这类模型不仅能够处理数值型数据，还具备处理知识的能力，可以实现思维、学习以及记忆等功能[^1]。 #### 卷积神经网络(CNN) 针对卷积神经网络（CNN），为了精确评估其参数总量，需逐层解析网络架构并汇总各部分贡献： - **卷积层**：这是最核心的部分之一，在这里应用特定尺寸的感受野去扫描图像的不同区域。具体来说，卷积层的参数量可以通过下面这个公式来确定： `参数量 = (核高度 * 核宽度 * 输入通道数 + 偏置) * 输出通道数` 这意味着每一个滤波器都由多个权重组成，并且如果考虑到了偏置项，则还需额外加上一个单位给每个过滤器[^4]。 - 关于批量归一化(Batch Normalization, BN)，虽然BN层本身引入了一些可训练参数（如缩放因子γ和移位β），但在通常情况下讨论整体参数规模时不将其计入主要组成部分内；而激活函数则一般不涉及任何新的自由度增加[^5]。 值得注意的是，当涉及到实际存储需求时，除了上述理论上的参数数目外，还需要考虑到浮点数表示形式所带来的影响——例如使用单精度浮点数(float32)保存这些系数的话，那么每项都会占据大约四个字节的空间。 最后需要注意的是像最大池化(MaxPooling)这样的操作不会带来新增加的学习单元，因为它们只是单纯地改变了特征图大小而不参与任何形式的学习过程[^3]。 ```python def calculate_conv_layer_params(kernel_height, kernel_width, input_channels, output_channels): """ Calculate the number of parameters in a convolutional layer. Args: kernel_height (int): Height of the filter/kernel. kernel_width (int): Width of the filter/kernel. input_channels (int): Number of channels in the input image or feature map. output_channels (int): Number of filters applied to produce this many output features. Returns: int: Total number of trainable parameters within one conv-layer including biases. """ params_per_filter = kernel_height * kernel_width * input_channels + 1 # Adding bias term per filter total_parameters = params_per_filter * output_channels return total_parameters # Example usage with dummy values print(calculate_conv_layer_params(3, 3, 64, 128)) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值