EfficientNet V1 V2总结

最新推荐文章于 2024-01-16 16:14:47 发布
最新推荐文章于 2024-01-16 16:14:47 发布
阅读量3.1k 收藏
点赞数
分类专栏： 分类网络 文章标签： 深度学习 计算机视觉 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/EMIvv/article/details/121727132
版权

一、efficientnet v1

Google2019年发表的文章，在论文中提到，本文提出的EfficientNet-B7在lmagenet top-1上达到了当年最高准确率84.3%，与之前准确率最高的GPipe相比，参数数量仅为其1/8.4，推理速度提升了6.1倍。

在这里插入图片描述

1、亮点

  • 同时探索输入分辨率，网络的深度、宽度三者共同的影响

2、细节

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
此SE模块与mbnet不同的在于1/4是输入该mbconv的1/4，而不是这个池化前的1/4

在这里插入图片描述

3、原论文实验效果

在这里插入图片描述

4、缺点

  • 虽然推理速度快，但是吃显存 ，因为b6，b7的输入分辨率很大，导致每一层的输入特征图的hw都会增大。
  • 在网络浅层中使用dw卷积速度也会很慢
  • 同等的放大每个stage是次优的

二、Efficientnet V2

Google发表在2021年的cvpr
在这里插入图片描述

1、亮点

  • 引入Fused-MBConv模块
  • 引入渐进式学习策略（训练更快）

2、细节

在这里插入图片描述
论文使用nas搜索出把stage1——3替换为fused-mbconv是最优的，且fused-conv源码中并没有使用se模块
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3、原论文实验效果

在这里插入图片描述
【参考】
b站：霹雳吧啦Wz

Shashank497
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
efficientNet v1和v2对花数据集的分类
04-08
efficientNet v1和v2对花数据集的分类
IEEE1588_v1_v2.pdf
01-27
PTP精确时钟同步协议的英文表述为：Precision Time Protocol；为这三个英文单词的缩写。...1588分为1588v1和1588v2两个版本，1588v1只能达到亚毫秒级的时间同步精度，而1588v2可以达到亚微秒级同步精度。
#轻量级网络 EfficientNetV1+V2 （原理+结构详解）
m0_49629753的博客
12-23 3883
EfficientNetV1： 原理介绍：
【图像分类】【深度学习】【轻量级网络】【Pytorch版本】EfficientNet_V1模型算法详解
yangyu0515的博客
01-16 1221
【图像分类】【深度学习】【轻量级网络】【Pytorch版本】EfficientNet_V1模型算法详解
EfficientNet系列(1): EfficientNetV2网络详解
热门推荐
@bangbang的博客
07-16 1万+
这篇论文是Google在2019年发表的文章。EfficientNet这篇论文，作者同时关于输入分辨率，网络深度，宽度对准确率的影响，在之前的文章中是单独增加图像分辨率或增加网络深度或单独增加网络的宽度，来试着提升网络的准确率。在EfficientNet这篇论文中，作者使用了网络搜索技术NAS去同时探索输入分辨率，网络深度、宽度的影响。EfficientNet的效果究竟如何呢?这幅图是原论文作者给出的关于Efficient以及当时主流的一系列分类网络的Top-1的准确率，我们发现。84.3%倍。...
EfficientNetV2震撼发布！87.3%准确率！模型更小，训练更快！谷歌大脑新作
阿木寺的博客
04-03 3320
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达作者丨happy 审稿丨邓富城来源丨极市平台导读谷歌在EfficientNet的基础上，引入了Fused-MBCo...
EfficientNet-PyTorch:EfficientNet和EfficientNetV2的PyTorch实现（即将推出！）
05-10
EfficientNet PyTorch 快速开始 使用pip install efficientnet_pytorch的net_pytorch并使用以下命令加载经过预训练的EfficientNet： from efficientnet_pytorch import EfficientNet model = EfficientNet . from_pretrained ( 'efficientnet-b0' ) 更新 更新（2021年4月2日） 已发布！ 当您阅读本文时，我正在努力实现它：) 关于EfficientNetV2： EfficientNetV2是卷积网络的新家族，与以前的模型相比，它具有更快的训练速度和更好的参数效率。 为了开发该系列模型，我们将训练感知的神经体系结构搜索和缩放结合使用，以共同优化训练速度和参数效率。 从富含新操作（例如Fused-MBConv）的搜索空
深度学习之图像分类（十五）-- EfficientNetV1 网络结构
木卯_THU的博客
09-05 5053
深度学习之图像分类（十五）EfficientNetV1 网络结构 目录深度学习之图像分类（十五）EfficientNetV1 网络结构1. 前言2. 宽度，深度以及分辨率3. EfficientNetV1 网络结构4. 代码 本节学习 EfficientNetV1 网络结构。学习视频源于 Bilibili。参考博客太阳花的小绿豆: EfficientNet网络详解. 1. 前言 EfficientNetV1 是由Google团队在 2019 年提出的，其原始论文为 EfficientNet: Rethin
tensorflow GoogleNet 初始 V1 V2 V3 V4
最新发布
04-03
tensorflow GoogleNet 初始 V1 V2 V3 V4
YOLO论文v1 v2 v3核心.zip
08-01
YOLO V1 V2 V3发布的三篇论文，对yolo会有更加深刻的理解，适合初学者，里面详细介绍了其方法和原理。原版 英语
SNMP V1 V2 V3版本的联系和区别 ..docx
05-24
SNMP V1 V2 V3
MobileNets（v1）: Efficient Convolutional Neural Networks for Mobile Vision Applications（2017）论文综述
qq_42575422的博客
06-11 365
为什么要做这个研究（理论走向和目前缺陷） ? 大模型计算量太大，参数量太大，不适合在移动设备上使用，于是想着既减少模型参数量，又减小计算量。 他们怎么做这个研究 （方法，尤其是与之前不同之处） ? 提出一种新的卷积：深度可分离卷积。为了更方便压缩模型，提出两个超参数：宽度乘法器和分辨率惩罚器，其中宽度乘法器是为减小整个模型所有层的输入输出通道数之用，分辨率乘法器是为缩小输入图片分辨率之用。 发现...
【轻量级网络】MobileNetV1: Efficient Convolutional Neural Networks for Mobile Vision Applications
筱
08-16 207
paper：MobileNetV2 code：caffe pytorch 文章目录1、Preliminaries, discussion and intuition1.1、Depthwise Separable Convolutions1.2、Linear Bottlenecks Mobilenetv2核心模块是：inverted residual structure. 1、Prelimin...
EfficientNetV1结构讲解（Rethinking Model Scaling for Convolutional Neural Networks）
Keep_Trying_Go的博客
05-29 316
文章目录1.论文地址2.卷积神经网络发展历程3.EfficientNetV1提出原因4.EfficientNetV1优化网络结构的思路5.图表比较6.depth,width,resolution调整图7.depth,width,resolution的缩放8.实验结果 1.论文地址 https://arxiv.org/abs/1905.11946 2.卷积神经网络发展历程 在AlexNet横空出世之后，卷积神经网络被大量应用于深度学习深度学习的研究如雨后春笋般出现；到2013年的图像分类冠军ZFNet，;
小白大白读论文-关于EfficientNetV2论文的 疑问 与 总结
good18Levin的博客
08-07 770
假设作用的特征图是 H * W * C，那么一个3 * 3的普通卷积的参数量就是 3 * 3 * C * C = 9C^2，而一个深度可分离卷积对应的参数量就是 3 * 3 * C = 9C，这个非常好理解，普通卷积和深度可分离卷积都需要C个卷积核，但是普通卷积的卷积核是三维的，是同时作用在原始的C个通道的，而深度可分离卷积的卷积核是二维的，是只用单个通道的。卷积上本质也是相加求和等原子操作，但是求和的时候需要找到准确的 3 * 3网格区域，个人怀疑底层的这个定位操作会比较耗时。.............
卷积神经网络EfficentNet v1学习记录--Model Scaling
panghuzhenbang的博客
05-04 1377
论文地址： 《EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks》 亮点： 同时探索输入分辨率、网络的深度和宽度的影响 深度和宽度是深度神经网络的两个基本维度，分辨率不仅取决于网络，也与输入图片的尺寸有关。深度——神经网络的层数，增加网络的深度（depth）能得到更加丰富、复杂的特征并能够很好地迁移到其他任务，但网络的深度过深会面临梯度消失、训练困难的问题；宽度——每层的通道数（channel），增加网络的.
轻量级网络模型之EfficientNet
MasterQKK
03-01 1305
1.提出了一种新的缩放方法compound scaling： 通过复合系数来统一地缩放depth, width, resolution的尺寸; 通过神经网络架构搜索NAS设计了baseline model, 并将该缩放方法应用后， 在提升精度的同时所需的参数两大大减少。 并且该缩放方法应用到其他模型（MobileNet, ResNet等）上也有很好的效果 EfficientNet-Bx. EfficientNet: Rethinking Model Scaling for Convolutional Neu
深度学习之图像分类（十六）-- EfficientNetV2 网络结构
木卯_THU的博客
09-07 1万+
深度学习之图像分类（十六）EfficientNetV1 网络结构 目录深度学习之图像分类（十六）EfficientNetV1 网络结构1. 前言2. 从 EfficientNetV1 到 EfficientNetV23. EfficientNetV2 网络框架4. 渐进式学习策略5. 代码 本节学习 EfficientNetV2 网络结构。学习视频源于 Bilibili，博客参考 EfficientNetV2网络详解。 1. 前言 EfficientNetV2 是 2021 年 4 月发表于 CVPR 的
EfficientNet算法解析和实践
逆熵而行
05-04 3858
之前的论文研究都是在某个设计维度上对网络结构进行研究，比如在网络结构的操作层个数（深度）、输入图片的分辨率或者操作层的通道数（宽度），但是很少有论文同时对这三种维度上的组合搜索进行研究。EfficientNet研究的就是在相同FLOPS算力的限制下，探索网络深度、宽度和分辨率对相同操作类型网络的结果影响，找到最优的配置比例参数。 优化问题 本论文研究不是对网络中操作层的类型进行搜索，假定论文的基本...
GoogLenet InceptionNet V1 V2 V3模型
10-08
InceptionNet是由Google团队开发的一系列深度卷积神经网络模型，其中包括Inception V1、Inception V2和Inception V3。这些模型的共同特点是使用了"Inception"模块，该模块能够同时运行多个不同大小的卷积核和池化...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Shashank497

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值