使用thop库计算flops和params

最新推荐文章于 2024-07-25 18:25:30 发布

一个尚在学习的计算机小白

最新推荐文章于 2024-07-25 18:25:30 发布

阅读量173

点赞数

分类专栏：深度学习文章标签：深度学习计算机视觉人工智能

本文链接：https://blog.csdn.net/qq_52396030/article/details/133017927

版权

深度学习专栏收录该内容

8 篇文章 0 订阅

订阅专栏

from thop import profile
from thop import clever_format

input_data = torch.randn(1, 3, 256, 256).cuda()

flops, params = profile(model, inputs=(input_data,))
flops, params = clever_format([flops, params], "%.3f")
print(f"FLOPs: {flops}, Params: {params}")

关注博主即可阅读全文

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

一个尚在学习的计算机小白

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
使用thop库计算flops和params

【代码】使用thop库计算flops和params。
复制链接

扫一扫

专栏目录

Pytorch模型分析：计算Pytorch模型的FLOPs、模型参数量、MAdd、模型显存占用量

噢啦啦耶的博客

08-05

1万+

参考资料1：https://dotnet.ctolib.com/Swall0w-torchstat.html 参考资料2：https://www.jianshu.com/p/6514b8fb1ada 参考资料3：https://www.jianshu.com/p/cbada26ea29d 参考资料4：https://blog.csdn.net/qq_40329272/article/details/106797617 由于模型分析的需要，除了对比模型在指定任务上的表现外，我们可能还需要评估模型的FLOP

THOP: 统计 PyTorch 模型的 FLOPs 和参数量

热门推荐

yiran103的专栏

07-30

3万+

THOP 是 PyTorch 非常实用的一个第三方库，可以统计模型的 FLOPs 和参数量。使用方法为： from thop import clever_format from thop import profile class YourModule(nn.Module): # your definition def count_your_model(model, x, y): ......

参与评论您还未登录，请先登录后发表或查看评论

一文讲解thop库计算FLOPs问题

shuaijieer的博客

02-20

5772

计算模型的FLOPs及参数大小FLOPS是处理器性能的衡量指标，是“每秒所执行的浮点运算次数”的缩写。FLOPs是算法复杂度的衡量指标，是“浮点运算次数”的缩写，s代表的是复数。一般使用thop库来计算，GitHub：但官网的Readme中详细写出了是用来计算MACs，而不是FLOPs的MACs（Multiply-Accumulates）和 FLOPs（Floating-Point Operations）都是用来度量深度学习模型的计算量的指标。

Pytorch查看模型参数量和计算量

mytzs123的博客

06-29

1万+

1、首先声明一个网络使用torchsummary可以查看模型的参数，和输入输出尺寸，但不能看FLOPs。 2、pip install thop可以显示总的FLOPs和参数量params，但不能显示每层的结构，有一些警告，但是没关系，因为relu是不参与计算参数量和FLOPs的。 3、pip install torchstat可以显示总的FLOPs和参数量params，也可能显示每层的结构。.........

Python/Pytorch常用函数大汇总（持续更新中）

qq_52353238的博客

02-04

898

nargs - 应该读取的命令行参数个数，可以是具体的数字，或者是?在上面的代码中，我们先导入了argparse这个包，然后包中的ArgumentParser类生成一个parser对象（好多博客中把这个叫做参数解析器），其中的description描述这个参数解析器是干什么的，当我们在命令行显示帮助信息的时候会看到description描述的信息。而对于tensor的计算操作，默认是要进行计算图的构建的，在这种情况下，可以使用 with torch.no_grad():，强制之后的内容不进行计算图构建。

Pytorch中计算自己模型的FLOPs(profile(),clever_format())

java_pythons的博客

03-27

1162

Pytorch中计算自己模型的FLOPs(profile(),clever_format())

thop离线安装依赖库（pytorch依赖库）

07-26

本资源是thop离线安装依赖库，主要包括pytorch的依赖库，用于计算模型的FLOPs和参数数量。通过离线安装这些依赖库，可以方便地在计算设备上进行模型计算量的评估。适用人群：本资源适用于需要评估深度学习模型...

在Pytorch中计算自己模型的FLOPs方式

09-18

在PyTorch中，我们可以使用第三方库thop（又名torchprofile）来计算自定义模型的FLOPs，以便更好地理解和优化模型的性能。首先，让我们详细了解一下如何安装和使用thop库。安装thop非常简单，只需要在命令行或终端...

Cal-FLOPs-for-PLM:在NLP中计算预训练模型的FLOP

03-29

Cal-FLOPs for PLM 在NLP中计算预训练模型的FLOP 该存储库提供了有关为Pytorch Framework中的NLP模型（主要是PLM）计算FLOP和参数的示例脚本。该示例脚本展示了两种类型的开源FLOPs计数器工具的用法。 FLOPs计数器...

Thop TV PC-crx插件

04-06

Thop TV PC是允许您在PC上使用Thop TV的扩展。安装Thop TV PC扩展程序后，您可以观看3000多个印度人… Thop TV PC是允许您在PC上使用Thop TV的扩展。安装Thop TV PC扩展程序后，您可以在世界各地的任何设备上免费...

python-基础-计算模型参数总量

SKY_yiyi_9的博客

08-16

7828

计算模型参数总量方法1：pytorch自带方法，计算模型参数总量 total = sum([param.nelement() for param in model.parameters()]) print(“Number of parameter: %.2fM” % (total/1e6)) 例子：红色断点放到下一行，并用debug运行。结果为：方法2：用工具包thop 要安装：pip install thop 在程序里输入： from thop import profile from thop

CNN模型中卷积的一些计算--参数量，FLOPs

ZSH12345678900的博客

08-06

473

feature map经卷积后的大小： conv: h−f+2ps+1\frac{h-f+2p}{s}+1sh−f+2p+1 —fff: kernel size; ppp: padding; sss: stride dilated conv: h+2p−(f−1)×ds+1\frac{h+2p-(f-1)×d}{s}+1sh+2p−(f−1)×d+1 — ddd: dilated pooling: h−fs+1\frac{h-f}{s}+1sh−f+1 receptive filed计算（从前往后

Pytorch统计模型参数量和计算量

weixin_42096202的博客

01-13

8955

需要使用官方库THOP: PyTorch-OpCounter GitHub 地址：https://github.com/Lyken17/pytorch-OpCounter 1.安装THOP： pip install thop # or pip install --upgrade git+https://github.com/Lyken17/pytorch-OpCounter.git 2.使用方...

卷积神经网络

最新发布

m0_53881899的博客

07-25

442

卷积神经网络

【深度学习】大模型GLM-4-9B Chat ，微调与部署(3) TensorRT-LLM、TensorRT量化加速、Triton部署

q742971636的博客

07-25

870

TensorRT-LLM官方目前说在v0.12.0版本才会支持GLM-4-9B Chat ，下面以v0.10.0的魔改来做GLM-4-9B Chat的量化部署。本文目标就是加速GLM-4-9B Chat，看看能多快。A100卡。

深度学习基础

写代码的小阿帆的博客

07-25

404

本章学习了深度学习的两大分支，神经网络和决策树，神经网络依靠其隐藏层对数据进行特征提取和变换处理，最后在输出层输出结果，根据对输出要求的不同可以使用不同的激活函数，作为普通开发者我们应该更关注的是神经网络的优化方向，增加学习数据，调整正则化参数，以及交叉验证方法和迁移学习；决策树对人来说更容易理解，使用类似二叉树的数据结构进行分类判断，为了减少异常数据对树的影响，我们使用多个决策树票选结果，为了减少特征对树的影响，我们又引入了随机森林，最后介绍了目前效果很好的决策树方案——XGBOOST。

【深度学习】PyTorch框架(5)：Transformer和多注意力机制

MUKAMO的博客

07-18

881

本文深入探讨了多头注意力层，它通过缩放点积找到输入间相关性，是Transformer架构核心。Transformer广泛应用于多领域，不仅限于NLP。其置换等变性质拓展了应用场景。然而，理解其潜在问题如学习率预热解决初期梯度问题同样关键。对Transformer架构研究感兴趣的读者，建议查阅文中提及的博客以深入了解。Transformer作为强大架构，其探索与应用前景广阔。

昇思25天学习打卡营第21天|RNN实现情感分类

人工智能视觉分析算法学习实践和经验分享。

07-21

645

Mindspore框架循环神经网络RNN模型实现情感分类|（一）数据集准备Mindspore框架循环神经网络RNN模型实现情感分类|（二）RNN模型Mindspore框架循环神经网络RNN模型实现情感分类|（三）模型训练与推理tips:安装依赖库。

昇思25天学习打卡营第20天 | LSTM+CRF序列标注

嫦娥妹妹等等我的博客

07-21

360

在自然语言处理（NLP）的领域中，序列标注是一个基础且关键的任务，涉及到从文本数据中提取有用信息，如命名实体识别（NER）、词性标注（POS）等。本次学习重点是探索如何结合长短时记忆网络（LSTM）和条件随机场（CRF）来执行序列标注任务，尤其是在命名实体识别上的应用。

pytorch计算flops

12-02

以下是使用pytorch计算flops的方法： ```python import torch from torch.autograd import Variable from ptflops import get_model_complexity_info # 定义模型 model = YourModel() # 输入数据的大小 input_size = (3, 224, 224) # 计算flops flops, params = get_model_complexity_info(model, input_size, as_strings=True, print_per_layer_stat=True) # 输出flops和参数数量 print('Flops: ' + flops) print('Params: ' + params) ``` 其中，`YourModel()`需要替换为你自己定义的模型，`input_size`为输入数据的大小，可以根据你的实际情况进行修改。`get_model_complexity_info()`函数会返回模型的flops和参数数量，分别保存在`flops`和`params`中。需要注意的是，不同的计算方法可能会得到不同的flops值。在引用中提到，使用profile算出来的flops需要乘以2，而thop计算出来的flops则不需要乘以2。因此，在使用不同的计算方法时，需要注意其计算规则的差异。