智能故障诊断的深度学习模型复杂度指标计算(MACs、Params)

已于 2023-06-29 10:11:22 修改
阅读量660 收藏
点赞数 1
分类专栏： 风机关键部件以及轴承故障诊断 文章标签： 深度学习 人工智能
于 2023-06-28 21:44:44 首次发布
本博客为个人撰写，未经商业授权严禁转载！
本文链接：https://blog.csdn.net/u013537270/article/details/131445485
版权
本文深入探讨了智能故障诊断中模型复杂度的重要性，详细介绍了时间复杂度和空间复杂度，包括FLOPS与FLOPs的概念，并在Pytorch框架下分析了MobileNetV2和ViT（Vision Transformer）模型的计算量，提供了相关工具的使用案例。
摘要由CSDN通过智能技术生成

引言：
对于智能故障诊断任务而言，受限于现场工业设备设施的算力，模型在轻量化上具有典型需求。因此，在保证模型精准性的同时尽量降低模型的复杂度是必要的，本博客对模型的复杂度概念进行了剖析，并在pytorch框架下对相关热门轻量级模型的复杂度评估进行了分析。
在这里插入图片描述

深度学习模型的复杂度指标计算

1. 模型的时间复杂度和空间复杂度

总体上，模型复杂度通常是指前向过程的计算量（反映模型所需要的计算时间）和参数个数（反映模型所需要的计算机内存空间）等等指标，在类型上可划分为时间复杂度和空间复杂度。

1.1 时间复杂度

  • 单个模型单次运行复杂度：可使用浮点运算数 FLOPs计算复杂度

  • 并行性能评估：另外并行性也会影响模型运行速度，可使用最大顺序操作数 Minimum number of sequential operations 和吞吐量 Throughput (image/s) 以及推理时间 Inference time (bacth/ms) 衡量

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Robo-网络矿产提炼工
关注
专栏目录
订阅专栏
衡量模型复杂度：①模型参数量、②FLOPs（浮点运算数，计算量，s小写）【全连接层无权值共享，浮点运算数==参数量】；衡量硬件（GPU）性能的指标：FLOPS（每秒浮点运算次数，计算速度，S大写）
u013250861的博客
05-04 665
评价一个CNN的性能，除了其性能指标（分类任务的准确度、估计任务的误差、检测任务的精度等）外，还需要考虑该CNN的模型复杂度，如和。CNN的参数（parameters）包括CNN需要学习的卷积核权值（weight）、全连接层权值以及其他需要学习的权值，CNN的参数量便是指所有这些参数的个数之和。由于参数量比较大，一般以M或G作为单位，流行的ResNet50的参数量是25.56M。
深度学习-轻量级骨干网-QPS
05-06
- **FLOPs**：模型的计算量，表示浮点运算次数，是衡量模型复杂度的重要指标。 - **GFLOPs/MFLOPs**：用于表示FLOPs的数量级。 - **MACs**：Multiply-Accumulate Operations，包含了乘法和加法操作，大约等于2...
深度学习——Pytorch模型统计FLOPs，MACs和Params评估参数
最新发布
qq_40280673的博客
04-29 4775
FLOPs（Floating point operations per second）是指每秒浮点运算次数，MACs （Multiply-Accumulate Operations）是指乘加操作的次数，Params（Parameters）是指模型的参数数量。这三个指标可以用来衡量模型的复杂度，即模型计算量的大小。
深度学习模型评价指标
hsdujdjrjrj的博客
03-13 978
深度学习中常用的FLOPs、FLOPS、MACs、Params介绍。
计算深度学习模型的参数量、复杂度（MACS、params）
Alocus的博客
04-26 4681
背景： 计算深度学习模型参数量有现成的脚本可供使用，如下。简单的使用方法参考了代码【2】 依赖包介绍： pytorch框架中卷积网络的flops计数器：ptflops 安装： pip install --upgrade git+https://github.com/sovrasov/flops-counter.pytorch.git ##or #pip install ptflops 说明【1】： 此脚本用于计算乘法加法运算的理论量 在卷积神经网络中。它还可以计算参数的数量和 给定网
MACs和FLOPs
拒绝任何因懒惰而生的省略号
09-13 1万+
目录FLOPsMACs关系使用全连接层卷积层深度分离卷积ReLU层全局池化（常用）：一般池化（不常用）：激活层ReLU/PReLU/ELUSigmoid FLOPs Floating Point Operations: 浮点运算次数，每一个加、减、乘、除操作都算1FLOPs操作，常用来衡量模型计算复杂度。 注意下FLOPS：注意全大写，是floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标，两者别弄混。。。 MACs
和利时MACS DCS系统故障问题处理
08-02
本文主要讨论的是和利时MACS DCS（分布式控制系统）系统中遇到的故障问题及其处理方法。和利时MACS系统是应用于工业控制领域的一种先进自动化系统，其故障排查和解决对于保证生产过程的稳定运行至关重要。 首先，...
MACS:MACS-ChIP-Seq的基于模型的分析
05-02
MACS：ChIP-Seq的基于模型的分析 最新发布： Github： PyPI： Bioconda： Debian Med： 介绍 随着测序技术的改进，染色质免疫沉淀后再进行高通量测序（ChIP-Seq）成为研究全基因组蛋白质-DNA相互作用的工具。 ...
MACS系统安装及接地
03-15
标题“MACS系统安装及接地”和描述“介绍了关于MACS系统安装及接地的详细说明，提供HOLLIAS-MACS的技术资料的下载”中提到的MACS系统和HOLLIAS-MACS是密切相关的内容。MACS系统可能是指某种控制系统或应用软件系统，...
MACS系统现场控制站
03-15
这些资料可能包括但不限于系统手册、安装指导、操作指南、故障诊断和维护指南等。通过深入研究这些技术资料，相关人员可以更好地理解和掌握MACS系统现场控制站的工作原理、操作方法以及日常维护知识，进而提升工作...
6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码
qq_40193227的博客
11-08 4593
6种方法计算神经网络参数量Params、计算量FLOPs、Macs简单代码
算力（计算机、芯片、TOPS、DMIPS、MACs等）相关缩写及定义
77wpa的博客
07-05 5717
例如：假设有512MACC运算单元，运行频率为1GHz，INT8的数据结构和精度，算力为512 x 2（2理解为一个MACC为一次乘法和一次加法，为两次运算操作） x 1 GHz = 1000 Billion Operations/Second = 1 TOPS(Tera-Operations/second)。例如，某个模型需要256000个浮点参数定义，转化为bit 乘以32得8192000bit，再除8转化为Byte，1024KB，也就是1M，那么这个模型大小约为1M。
深度学习模型计算量评价指标FLOPs, MACs, MAdds关系
BIT_Legend的博客
03-28 1万+
在评价深度学习模型的大小和计算量时，经常使用的参数有：parameters, FLOPs, MACs, MAdds。除此以外，我们还经常见到FLOPS, GFLOPS, TFLOPS，这三个参数其实并非用来评价模型的计算量，而是用来评价计算机硬件的计算能力。
基于Resnet18的指甲病图像智能诊断模型 内附代码
h13143367300的博客
08-03 888
指甲病的发展现状迫切地要求我们建立一个指甲病临床分类的简易方法，本研究使用 Pytorch 深度学习框架，在ImageNet预训练图像分类模型搭建 ResNet网络模型，优化网络参数和结构，基于深度学习的图像分类方法，通过数据清洗、图像数据预处理、数据加载、模型设计与搭建、进行不同周期的训练与测试，在训练过程中，记录训练集和测试集的损失函数、准确率、Precision、Recall、f1-score等评估指标，使用wandb可视化面板监控。为后续的新图像预测、测试集评估、可解释性分析、模型部署，奠定算法基
深度学习模型复杂度计算详细解析
weixin_43236350的博客
03-26 6631
1关键： 辨析好运算量与参数量等概念，根据不同的操作，逐步分解计算。 2概念辨析区分 2.1 模型复杂度是什么？ 模型复杂度通常是指Forward Pass计算量和参数个数。 Forward Pass计算量：描述模型所需要的计算能力 参数个数：描述模型所需要的计算机内存 2.2 FLOPS与FLOPs辨析 FLOPS：全大写，是floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。 FLOPs：注意s小写，是float
机器学习（深度学习）轴承故障诊断分类（提供故障数据和python代码实现）
qq_44757503的博客
11-04 2331
机器学习广泛的应用于机械故障诊断和故障分类问题，本研究利用机器学习的卷积神经网络对滚动轴承内圈损坏尺寸的分类，利用凯斯西储实验室提供的数据，整理出滚动轴承内圈损坏尺寸分别为0.14cm和0.21cm的数据集，通过机器学习实现对两个损坏尺寸的分类训练模型，通过数据测试模型的有效性。
推荐几个非常好用的计算flops、params、内存...的工具
dear_queen的博客
04-10 1819
推荐几个非常好用的计算flops、params、内存…的工具 1、ptflops 使用方法如下： import torch import torchvision.models as models # import torch from ptflops import get_model_complexity_info model = resnet34(num_classes=5) model_weight_path ='xxxx' model.load_state_dict(torch.load(model
CNN的参数量、计算量（FLOPs、MACs）与运行速度
热门推荐
张鹏的博客
04-28 4万+
深度学习模型复杂度 描述一个具体的深度学习模型，除了性能指标（分类任务的准确度、检测任务的mAP等），还需要考虑该模型的复杂度，即（前向推理的）计算量和参数个数(Parameters)，前者描述了所需的计算力，后者描述了所需内存 FLOPS：注意全大写，是floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。...
人工智能：模型复杂度【机器学习模型复杂度、深度学习模型复杂度（FLOPs、MAC）】
u013250861的博客
03-01 3580
一、机器学习模型复杂度 二、深度学习模型复杂度 通常，一个神经网络模型的复杂度用2个指标来描述： 模型的参数(Parameters)数量， Params：模型的参数量。 模型的计算量： FLOPs：FLoating point OPerations，前向推理的计算量。 MAC：Memory Access Cost。 MACC(MADD)：multiply-accumulate operations：先乘起来再加起来的运算次数。 1、时间复杂度（计算量） 时间复杂度（计算量）：计算量指的需要进
深度学习算法复杂度分析
08-18
深度学习算法的复杂度分析主要关注模型的计算和存储资源的需求。深度学习算法中最常见的复杂度分析是针对神经网络模型的计算复杂度和存储复杂度。 1. 计算复杂度：计算复杂度主要关注前向传播和反向传播过程中的计算量。前向传播是指将输入数据通过神经网络进行推理或预测的过程，而反向传播是指根据预测结果和实际标签进行参数更新的过程。 前向传播过程的计算复杂度取决于网络的层数、层的神经元数量和神经元之间的连接情况。常见的计算复杂度表示方法是浮点运算次数（FLOPs）或乘法-加法运算次数（MACs）。 反向传播过程的计算复杂度也与网络的层数、神经元数量和连接情况相关，但通常比前向传播复杂度高，因为需要计算梯度并更新参数。反向传播的计算复杂度通常与前向传播的计算复杂度相当。 2. 存储复杂度：存储复杂度主要关注模型参数和中间结果的存储需求。模型参数是指神经网络中的权重和偏置，而中间结果是指在前向传播和反向传播过程中产生的临时变量。 模型参数的存储需求取决于网络的层数和每层的神经元数量。通常，模型参数是以浮点数形式存储的，所以存储复杂度可以通过参数数量和每个参数的字节数来估计。 中间结果的存储需求取决于网络的层数、每层的神经元数量和数据类型。在深度学习中，中间结果通常是以张量（tensor）形式存储的，所以存储复杂度可以通过中间结果的维度、数据类型和字节数来估计。 需要注意的是，深度学习算法的复杂度分析并不像传统算法那样严格，因为深度学习算法中存在许多不确定性因素，如批量大小、激活函数、优化器等。因此，在实际应用中，更常见的做法是通过实验或模型推理工具来估计深度学习算法的复杂度。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Robo-网络矿产提炼工

你的鼓励将是我最大的动力！

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值