参数量，计算量，运行时间测量

最新推荐文章于 2022-11-06 00:08:19 发布
最新推荐文章于 2022-11-06 00:08:19 发布
阅读量1k 收藏 1
点赞数
分类专栏： pytorch基础
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_32256033/article/details/105905553
版权

现介绍一款自动计算模型参数量、FLOPs、乘加数以及所需内存等数据的轮子：https://github.com/Swall0w/torchstat

食用方法如下：
1.安装：

pip install torchstat

2.使用：

In [3]: import torch
In [4]: from torchstat import stat
In [5]: import torchvision.models as models
In [6]: net = models.vgg11()
In [7]: stat(net,(3,224,224)) # (3,224,224)表示输入图片的尺寸

运行结果：

[MAdd]: AdaptiveAvgPool2d is not supported!
[Flops]: AdaptiveAvgPool2d is not supported!
[Memory]: AdaptiveAvgPool2d is not supported!
[MAdd]: Dropout is not supported!
[Flops]: Dropout is not supported!
[Memory]: Dropout is not supported!
[MAdd]: Dropout is not supported!
[Flops]: Dropout is not supported!
[Memory]: Dropout is not supported!
        module name  input shape output shape       params memory(MB)              MAdd            Flops   MemRead(B)  MemWrite(B) duration[%]    MemR+W(B)
0        features.0    3 224 224   64 224 224       1792.0      12.25     173,408,256.0     89,915,392.0     609280.0   12845056.0      14.24%   13454336.0
1        features.1   64 224 224   64 224 224          0.0      12.25       3,211,264.0      3,211,264.0   12845056.0   12845056.0       1.40%   25690112.0
2        features.2   64 224 224   64 112 112          0.0       3.06       2,408,448.0      3,211,264.0   12845056.0    3211264.0      11.61%   16056320.0
3        features.3   64 112 112  128 112 112      73856.0       6.12   1,849,688,064.0    926,449,664.0    3506688.0    6422528.0       5.33%    9929216.0
4        features.4  128 112 112  128 112 112          0.0       6.12       1,605,632.0      1,605,632.0    6422528.0    6422528.0       0.65%   12845056.0
5        features.5  128 112 112  128  56  56          0.0       1.53       1,204,224.0      1,605,632.0    6422528.0    1605632.0       4.59%    8028160.0
6        features.6  128  56  56  256  56  56     295168.0       3.06   1,849,688,064.0    925,646,848.0    2786304.0    3211264.0       4.42%    5997568.0
7        features.7  256  56  56  256  56  56          0.0       3.06         802,816.0        802,816.0    3211264.0    3211264.0       0.29%    6422528.0
8        features.8  256  56  56  256  56  56     590080.0       3.06   3,699,376,128.0  1,850,490,880.0    5571584.0    3211264.0       8.13%    8782848.0
9        features.9  256  56  56  256  56  56          0.0       3.06         802,816.0        802,816.0    3211264.0    3211264.0       0.25%    6422528.0
10      features.10  256  56  56  256  28  28          0.0       0.77         602,112.0        802,816.0    3211264.0     802816.0       2.19%    4014080.0
11      features.11  256  28  28  512  28  28    1180160.0       1.53   1,849,688,064.0    925,245,440.0    5523456.0    1605632.0       4.72%    7129088.0
12      features.12  512  28  28  512  28  28          0.0       1.53         401,408.0        401,408.0    1605632.0    1605632.0       0.10%    3211264.0
13      features.13  512  28  28  512  28  28    2359808.0       1.53   3,699,376,128.0  1,850,089,472.0   11044864.0    1605632.0       8.77%   12650496.0
14      features.14  512  28  28  512  28  28          0.0       1.53         401,408.0        401,408.0    1605632.0    1605632.0       0.09%    3211264.0
15      features.15  512  28  28  512  14  14          0.0       0.38         301,056.0        401,408.0    1605632.0     401408.0       1.14%    2007040.0
16      features.16  512  14  14  512  14  14    2359808.0       0.38     924,844,032.0    462,522,368.0    9840640.0     401408.0       3.53%   10242048.0
17      features.17  512  14  14  512  14  14          0.0       0.38         100,352.0        100,352.0     401408.0     401408.0       0.03%     802816.0
18      features.18  512  14  14  512  14  14    2359808.0       0.38     924,844,032.0    462,522,368.0    9840640.0     401408.0       3.64%   10242048.0
19      features.19  512  14  14  512  14  14          0.0       0.38         100,352.0        100,352.0     401408.0     401408.0       0.03%     802816.0
20      features.20  512  14  14  512   7   7          0.0       0.10          75,264.0        100,352.0     401408.0     100352.0       0.32%     501760.0
21          avgpool  512   7   7  512   7   7          0.0       0.10               0.0              0.0          0.0          0.0       0.25%          0.0
22     classifier.0        25088         4096  102764544.0       0.02     205,516,800.0    102,760,448.0  411158528.0      16384.0      20.16%  411174912.0
23     classifier.1         4096         4096          0.0       0.02           4,096.0          4,096.0      16384.0      16384.0       0.02%      32768.0
24     classifier.2         4096         4096          0.0       0.02               0.0              0.0          0.0          0.0       0.03%          0.0
25     classifier.3         4096         4096   16781312.0       0.02      33,550,336.0     16,777,216.0   67141632.0      16384.0       3.26%   67158016.0
26     classifier.4         4096         4096          0.0       0.02           4,096.0          4,096.0      16384.0      16384.0       0.01%      32768.0
27     classifier.5         4096         4096          0.0       0.02               0.0              0.0          0.0          0.0       0.01%          0.0
28     classifier.6         4096         1000    4097000.0       0.00       8,191,000.0      4,096,000.0   16404384.0       4000.0       0.79%   16408384.0
total                                          132863336.0      62.69  15,230,196,248.0  7,630,071,808.0   16404384.0       4000.0     100.00%  663250240.0
===========================================================================================================================================================
Total params: 132,863,336
-----------------------------------------------------------------------------------------------------------------------------------------------------------
Total memory: 62.69MB
Total MAdd: 15.23GMAdd
Total Flops: 7.63GFlops
Total MemR+W: 632.52MB
_天明_
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
专栏目录
锂电芯的容量测量计算
08-13
锂电芯的容量是衡量其性能的重要参数，关系到设备的运行时间和充电频率。本文将详细讲解锂电芯容量的测量计算方法。 首先，锂电芯的容量与其外壳体积有一定正比关系，但这并不意味着体积越大，容量一定越高。因为...
神经网络与深度学习（六）卷积神经网络（4）ResNet18实现MNIST
weixin_53651790的博客
11-03 984
ResNet18实现MNIST
Pytorch模型分析：计算Pytorch模型的FLOPs、模型参数量、MAdd、模型显存占用量
噢啦啦耶的博客
08-05 1万+
参考资料1：https://dotnet.ctolib.com/Swall0w-torchstat.html 参考资料2：https://www.jianshu.com/p/6514b8fb1ada 参考资料3：https://www.jianshu.com/p/cbada26ea29d 参考资料4：https://blog.csdn.net/qq_40329272/article/details/106797617   由于模型分析的需要，除了对比模型在指定任务上的表现外，我们可能还需要评估模型的FLOP
整理经典网络并计算其flops等
qq_60272314的博客
09-06 539
利用tensorboard显示模型示意图使用到的函数add_graph中的参数 add_graph(model, input_to_model=None, verbose=False, **kwargs) 参数 model (torch.nn.Module): 待可视化的网络模型 input_to_model (torch.Tensor or list of torch.Tensor, optional): 待输入神经网络的变量或一组变量 verbose表示详细信息，verbos...
面试宝典笔记：卷积计算过程中的FLOPs
pink369的博客
05-10 1978
模型的运算次数，可用 FLOPs衡量，也就是浮点运算次数（FLoating-point OPerations），表征的是模型的时间复杂度。模型空间复杂度通过Parameters反映，即模型的参数量。 最早是在2017年ICLR会议上由英伟达公司提出FLOPs的计算：从这张图中可以看出，随着模型层数不断加深，相应的flops增大，时间复杂度提高，但模型的验证集的错误率在不断减小。因此我们希望在模型加深获得更高精度的前提下尽可能减少模型的时间复杂度，加快模型的训练和预测时间。 单个卷积核的时间复杂度 M为每.
PyTorch 学习笔记（七）：卷积神经网络案例分析——AlexNet、VGGNet、GoogLeNet、ResNet
h__ang的博客
04-24 2612
我写这篇的目的主要是想熟悉一下PyTorch搭建模型的方法。 一. AlexNet 五个卷积层加3个全连接层，话不多说，直接上代码： import torch from torch import nn from torchstat import stat class AlexNet(nn.Module): def __init__(self, num_classes): ...
余热锅炉蒸发量计算.rar
06-02
余热锅炉蒸发量计算.exe 文件可能是用于辅助计算的软件工具，它可能集成了上述计算方法，用户只需输入相关参数，就能快速得到蒸发量结果。这种软件的应用可以极大地简化计算过程，提高工作效率。 总之，余热锅炉...
电子测量中的锂电池容量测量电路
10-21
恒流放电电路由Q1、Q2、R1和R2构成，其功能是确保电池以恒定的电流进行放电，这样可以通过放电时间来计算出电池的容量。在这个电路中，D1和D2二极管的作用是产生1.5V的电压，供给小石英表作为计时器的电源。小石英表...
曲轴旋转力矩，活塞凸出量测量
10-19
设备的校准工作应按照制造商的指南或行业标准进行，确保所有测量工具和系统都在其性能范围内运行。 综上所述，曲轴旋转力矩和活塞凸出量的精确测量是发动机制造过程中的核心环节，对保证发动机的性能、耐用性和效率...
可用于电力系统规划设计的短路计算、容量计算、稳定计算的excel表格
01-08
它可以帮助工程师快速输入参数、进行迭代计算，并通过图表展示结果。一次设备和二次设备选型则是在这些计算基础上，根据设备的技术规格、价格、可靠性等因素，选择最适合实际需求的设备。一次设备包括发电机、变压器...
卷积神经网络相关（1）：卷积神经网络模型的参数量Params和计算量FLOPs简单代码
Hankerchen的博客
02-15 3200
文章目录概述一、利用torchstat1.1 方法1.2 代码1.3 输出二、利用ptflops2.1 方法2.2 代码2.3 输出三、利用thop1.1 方法1.2 代码1.3 输出 概述 参数量（Params）：是指网络模型中需要训练的参数总数。 浮点数（FLOPs）：FLOP时指浮点运算次数，s是指秒，即每秒浮点运算次数的意思，考量一个网络模型的计算量的标准。 一、利用torchstat 1.1 方法 pip install torchstat 1.2 代码 from torchstat imp
【深度学习】(1) CNN中的注意力机制（SE、ECA、CBAM），附Pytorch完整代码
热门推荐
博观而约取，厚积而薄发
06-03 8万+
大家好，今天和各位分享一下如何使用 Pytorch 构建卷积神经网络中的各种注意力机制，如：SENet，ECANet，CBAM。注意力机制的原理 和 TensorFlow2 的实现方式可以看我下面两篇博文：SENet、ECANet：https://blog.csdn.net/dgvv4/article/details/123572065DANet、CBAM：https://blog.csdn.net/dgvv4/article/details/123888724SE注意力机制（Squeeze-and-Exc
【ShuffleNet V2】模型解读
y473459100的博客
04-03 1213
论文：《ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design》 地址：arxiv.org/abs/1807.1116 摘要 目前，网络架构设计主要由计算复杂度的间接度量（如FLOPs）测量。然而，直接度量（例如，速度）还取决于诸如存储器访问成本和平台特性的其他因素。因此，这项工作建议评估目标平台上的直接度量，而不仅仅考虑FLOPs。基于一系列对照实验，这项工作为高效的网络设计提供了几个实用指南。此外，提出.
Feedback Network for Image Super-Resolution（CVPR-2019）
it-hao的博客
05-08 3696
Feedback Network for Image Super-Resolution（CVPR-2019） 论文地址 论文代码 1. 创新点： 反馈机制（feedback mechanism） 课程学习 （curriculum learning） 2. 摘要： 在这篇论文中，作者提出了一种图片超分辨率反馈网络（SRFBN），从而通过高层信息来细化低层信息。具体这种反馈机制，是用具有约束的R...
模型性能参数
栋哥修炼日记
05-09 864
一、pytorch使用stat打印网络的参数量==在PC上 #使用官方的模型 import torch import torchvision #或者测试自己搭建的模型 from model_v2 import MobileNetV2 from model_v3 import mobilenet_v3_small,mobilenet_v3_large from ptflops import get_model_complexity_info from model_v1 import MobileNet_V
为什么MobileNet v2比v1深度更深，但是参数量和速度反而减少
qizhen816的博客
09-04 4502
MobileNet v2基础结构中增加的升维PW卷积，可以将通道数扩大到较高的维度。 在卷积的计算过程中，参数量计算公式为CinKhKw*Cout，可以看出在卷积核固定的情况下，通道数越多，参数量也就越大。 MobileNet v1使用的可分离卷积，将Cin和Cout的乘法分离为两个较小因子乘法的和，因此减少了参数量，但其基于VGG16的网络结构，在深层512（包括重复5次的卷积层）以及1024通...
5种方法获取Torch网络模型参数量计算量等信息
十二月未央未眠
04-19 2万+
目录模型参数量和计算量是什么为什么要统计模型参数量和计算量常见的模型参数量和计算量的计算方法代码方法1，利用torch自带方法，自写函数方法2，torchsummary.summary方法3 torchstat.stat方法4 thop.profile方法5 ptflops.get_model_complexity_info 模型参数量和计算量是什么 计算量是指网络模型需要计算的运算次数，参数量是指网络模型自带的参数数量多少 计算量对应时间复杂度，参数量对应于空间复杂度 计算量决定了网络执行时间的长短，参
Pytorch网络结构可视化
hajungong007的博客
06-15 6573
安装 可以通过以下的命令进行安装 pip install graphviz pip install torch torchvision pip install tensorwatch 载入库 import sys import torch import tensorwatch as tw import torchvision.models 网络结构可视化 model = torchvision...
NNDL 实验六 卷积神经网络（4）ResNet18实现MNIST
m0_51799083的博客
11-06 395
NNDL 实验六 卷积神经网络（4）ResNet18实现MNIST
transformer 吞吐量 计算方法
最新发布
04-25
Transformer是一种基于自注意力机制的神经网络模型，广泛应用于自然语言...可以通过在具体硬件上运行模型并测量推理时间来得到。 4. 计算吞吐量：吞吐量可以通过以下公式计算得到： 吞吐量 = 输入序列长度 / 推理时间
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值