EfficientNet V1 V2总结

最新推荐文章于 2024-04-13 08:59:18 发布
最新推荐文章于 2024-04-13 08:59:18 发布
阅读量3.1k 收藏
点赞数
分类专栏： 分类网络 文章标签： 深度学习 计算机视觉 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/EMIvv/article/details/121727132
版权

一、efficientnet v1

Google2019年发表的文章，在论文中提到，本文提出的EfficientNet-B7在lmagenet top-1上达到了当年最高准确率84.3%，与之前准确率最高的GPipe相比，参数数量仅为其1/8.4，推理速度提升了6.1倍。

在这里插入图片描述

1、亮点

  • 同时探索输入分辨率，网络的深度、宽度三者共同的影响

2、细节

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
此SE模块与mbnet不同的在于1/4是输入该mbconv的1/4，而不是这个池化前的1/4

在这里插入图片描述

3、原论文实验效果

在这里插入图片描述

4、缺点

  • 虽然推理速度快，但是吃显存 ，因为b6，b7的输入分辨率很大，导致每一层的输入特征图的hw都会增大。
  • 在网络浅层中使用dw卷积速度也会很慢
  • 同等的放大每个stage是次优的

二、Efficientnet V2

Google发表在2021年的cvpr
在这里插入图片描述

1、亮点

  • 引入Fused-MBConv模块
  • 引入渐进式学习策略（训练更快）

2、细节

在这里插入图片描述
论文使用nas搜索出把stage1——3替换为fused-mbconv是最优的，且fused-conv源码中并没有使用se模块
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3、原论文实验效果

在这里插入图片描述
【参考】
b站：霹雳吧啦Wz

Shashank497
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
efficientNet v1和v2对花数据集的分类
04-08
efficientNet v1和v2对花数据集的分类
gen-efficientnet-pytorch:预先训练的EfficientNet，EfficientNet-Lite，MixNet，MobileNetV3 V2，MNASNet A1和B1，FBNet，单路径NAS
04-29
EfficientNet，MixNet，MobileNetV3等的“通用”实现涵盖了从MobileNet V1 / V2块序列派生的大多数计算/参数有效架构，包括那些通过自动神经架构搜索找到的架构。 所有模型均由GenEfficientNet或MobileNetV3类实现...
#轻量级网络 EfficientNetV1+V2 （原理+结构详解）
m0_49629753的博客
12-23 3922
EfficientNetV1： 原理介绍：
【图像分类】【深度学习】【轻量级网络】【Pytorch版本】EfficientNet_V1模型算法详解
yangyu0515的博客
01-16 1238
【图像分类】【深度学习】【轻量级网络】【Pytorch版本】EfficientNet_V1模型算法详解
【图像分类】用通俗易懂代码的复现EfficientNetV2，入门的绝佳选择（pytorch）
最新发布
2401_83703951的博客
04-13 826
漫长，而且极易碰到天花板技术停滞不前！**
EfficientNet系列(1): EfficientNetV2网络详解
热门推荐
@bangbang的博客
07-16 1万+
这篇论文是Google在2019年发表的文章。EfficientNet这篇论文，作者同时关于输入分辨率，网络深度，宽度对准确率的影响，在之前的文章中是单独增加图像分辨率或增加网络深度或单独增加网络的宽度，来试着提升网络的准确率。在EfficientNet这篇论文中，作者使用了网络搜索技术NAS去同时探索输入分辨率，网络深度、宽度的影响。EfficientNet的效果究竟如何呢?这幅图是原论文作者给出的关于Efficient以及当时主流的一系列分类网络的Top-1的准确率，我们发现。84.3%倍。...
EfficientNetV2震撼发布！87.3%准确率！模型更小，训练更快！谷歌大脑新作
阿木寺的博客
04-03 3336
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达作者丨happy 审稿丨邓富城来源丨极市平台导读谷歌在EfficientNet的基础上，引入了Fused-MBCo...
EfficientNet-PyTorch:EfficientNet和EfficientNetV2的PyTorch实现（即将推出！）
05-10
EfficientNet PyTorch 快速开始 使用pip install efficientnet_pytorch的net_pytorch并使用以下命令加载经过预训练的EfficientNet： from efficientnet_pytorch import EfficientNet model = EfficientNet . from_pretrained ( 'efficientnet-b0' ) 更新 更新（2021年4月2日） 已发布！ 当您阅读本文时，我正在努力实现它：) 关于EfficientNetV2： EfficientNetV2是卷积网络的新家族，与以前的模型相比，它具有更快的训练速度和更好的参数效率。 为了开发该系列模型，我们将训练感知的神经体系结构搜索和缩放结合使用，以共同优化训练速度和参数效率。 从富含新操作（例如Fused-MBConv）的搜索空
深度学习之图像分类（十五）-- EfficientNetV1 网络结构
木卯_THU的博客
09-05 5105
深度学习之图像分类（十五）EfficientNetV1 网络结构 目录深度学习之图像分类（十五）EfficientNetV1 网络结构1. 前言2. 宽度，深度以及分辨率3. EfficientNetV1 网络结构4. 代码 本节学习 EfficientNetV1 网络结构。学习视频源于 Bilibili。参考博客太阳花的小绿豆: EfficientNet网络详解. 1. 前言 EfficientNetV1 是由Google团队在 2019 年提出的，其原始论文为 EfficientNet: Rethin
Basic_CNNs_TensorFlow2：一些基本CNN的tensorflow2实现（MobileNetV1V2V3，EfficientNet，ResNeXt，InceptionV4，InceptionResNetV1V2，SENet，SqueezeNet，DenseNet，ShuffleNetV2，ResNet）
02-06
包括的网络： MobileNet_V1 MobileNet_V2 SE_ResNet_50，SE_ResNet_101，SE_ResNet_152，SE_ResNeXt_50，SE_ResNeXt_101 挤压网ShuffleNetV2 RegNet其他网络对于AlexNet和VGG，请参见： : 对于InceptionV3，请参见：...
Inception v1论文
12-08
Inception架构对后来的模型如MobileNet、EfficientNet等产生了深远影响，它们都致力于在计算资源有限的情况下实现最佳的性能。 总结起来，Inception v1论文展示了如何通过精心设计的网络结构来提升CNN的性能，其...
PyTorch图像模型，脚本，预训练权重-（SE）ResNet / ResNeXT，DPN，EfficientNet，MixNet，MobileNet-V3 / V2，MNASNet，单路径NAS，FBNet等-Python开发
05-25
PyTorch图像模型，脚本，预训练权重-（SE）ResNet / ResNeXT，DPN，EfficientNet，MixNet，MobileNet-V3 / V2 / V1，MNASNet，单路径NAS，FBNet等更多PyTorch图像模型等2020年11月11日，变更组合：DenseNet模型已...
MobileNets（v1）: Efficient Convolutional Neural Networks for Mobile Vision Applications（2017）论文综述
qq_42575422的博客
06-11 365
为什么要做这个研究（理论走向和目前缺陷） ? 大模型计算量太大，参数量太大，不适合在移动设备上使用，于是想着既减少模型参数量，又减小计算量。 他们怎么做这个研究 （方法，尤其是与之前不同之处） ? 提出一种新的卷积：深度可分离卷积。为了更方便压缩模型，提出两个超参数：宽度乘法器和分辨率惩罚器，其中宽度乘法器是为减小整个模型所有层的输入输出通道数之用，分辨率乘法器是为缩小输入图片分辨率之用。 发现...
【轻量级网络】MobileNetV1: Efficient Convolutional Neural Networks for Mobile Vision Applications
筱
08-16 211
paper：MobileNetV2 code：caffe pytorch 文章目录1、Preliminaries, discussion and intuition1.1、Depthwise Separable Convolutions1.2、Linear Bottlenecks Mobilenetv2核心模块是：inverted residual structure. 1、Prelimin...
EfficientNetV1结构讲解（Rethinking Model Scaling for Convolutional Neural Networks）
Keep_Trying_Go的博客
05-29 322
文章目录1.论文地址2.卷积神经网络发展历程3.EfficientNetV1提出原因4.EfficientNetV1优化网络结构的思路5.图表比较6.depth,width,resolution调整图7.depth,width,resolution的缩放8.实验结果 1.论文地址 https://arxiv.org/abs/1905.11946 2.卷积神经网络发展历程 在AlexNet横空出世之后，卷积神经网络被大量应用于深度学习深度学习的研究如雨后春笋般出现；到2013年的图像分类冠军ZFNet，;
小白大白读论文-关于EfficientNetV2论文的 疑问 与 总结
good18Levin的博客
08-07 774
假设作用的特征图是 H * W * C，那么一个3 * 3的普通卷积的参数量就是 3 * 3 * C * C = 9C^2，而一个深度可分离卷积对应的参数量就是 3 * 3 * C = 9C，这个非常好理解，普通卷积和深度可分离卷积都需要C个卷积核，但是普通卷积的卷积核是三维的，是同时作用在原始的C个通道的，而深度可分离卷积的卷积核是二维的，是只用单个通道的。卷积上本质也是相加求和等原子操作，但是求和的时候需要找到准确的 3 * 3网格区域，个人怀疑底层的这个定位操作会比较耗时。.............
卷积神经网络EfficentNet v1学习记录--Model Scaling
panghuzhenbang的博客
05-04 1389
论文地址： 《EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks》 亮点： 同时探索输入分辨率、网络的深度和宽度的影响 深度和宽度是深度神经网络的两个基本维度，分辨率不仅取决于网络，也与输入图片的尺寸有关。深度——神经网络的层数，增加网络的深度（depth）能得到更加丰富、复杂的特征并能够很好地迁移到其他任务，但网络的深度过深会面临梯度消失、训练困难的问题；宽度——每层的通道数（channel），增加网络的.
轻量级网络模型之EfficientNet
MasterQKK
03-01 1307
1.提出了一种新的缩放方法compound scaling： 通过复合系数来统一地缩放depth, width, resolution的尺寸; 通过神经网络架构搜索NAS设计了baseline model, 并将该缩放方法应用后， 在提升精度的同时所需的参数两大大减少。 并且该缩放方法应用到其他模型（MobileNet, ResNet等）上也有很好的效果 EfficientNet-Bx. EfficientNet: Rethinking Model Scaling for Convolutional Neu
深度学习之图像分类（十六）-- EfficientNetV2 网络结构
木卯_THU的博客
09-07 1万+
深度学习之图像分类（十六）EfficientNetV1 网络结构 目录深度学习之图像分类（十六）EfficientNetV1 网络结构1. 前言2. 从 EfficientNetV1 到 EfficientNetV23. EfficientNetV2 网络框架4. 渐进式学习策略5. 代码 本节学习 EfficientNetV2 网络结构。学习视频源于 Bilibili，博客参考 EfficientNetV2网络详解。 1. 前言 EfficientNetV2 是 2021 年 4 月发表于 CVPR 的
GoogLenet InceptionNet V1 V2 V3模型
10-08
InceptionNet是由Google团队开发的一系列深度卷积神经网络模型，其中包括Inception V1、Inception V2和Inception V3。这些模型的共同特点是使用了"Inception"模块，该模块能够同时运行多个不同大小的卷积核和池化操作，并将它们的结果拼接在一起，以提取不同尺寸和不同级别的特征。 Inception V1是最早的版本，它在网络中引入了Inception模块，并在ImageNet图像分类比赛中取得了很好的成绩。Inception V2在V1的基础上进行了改进，引入了Batch Normalization等技术，进一步提高了性能。Inception V3则进一步改进了网络架构，在V2的基础上加入了更多的Inception模块和优化策略，使得模型更加复杂和强大。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Shashank497

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值