CV 经典主干网络 (Backbone) 系列: EfficientNet

最新推荐文章于 2024-05-12 20:47:49 发布
最新推荐文章于 2024-05-12 20:47:49 发布
阅读量2.7k 收藏 4
点赞数 1
分类专栏： Backbone 文章标签： efficientnet 主干网络 backbone 结构 解析
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/kuweicai/article/details/115028203
版权

CV 经典主干网络 (Backbone) 系列: EfficientNet

作者：Mingxing Tan 等
发表时间：2019
Paper 原文： EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks

该篇是 CV 经典主干网络 (Backbone) 系列 下的一篇文章。

练丹师在练丹的时候，对于卷积神经网络，通常通过调整网络深度(depth)、网络宽度(width) 和 输入图像分辨率 (resolution) 大小来找到一个效果比较的网络，但是这却是一个体力活，作者希望找到一个通用的缩放方法，可以使得网络又准又快。

1. 网络结构

1.1 理论

作者通过一些实验得出如下结论：

  • 三个维度中任一维度的放大都可以带来精度的提升，但随着倍率越来越大，提升却越来越小。

  • 得到更高的精度以及效率的关键是平衡网络宽度，网络深度，图像分辨率三个维度的放缩倍率(d, r, w)

基于以上的结论，作者提出了一种混合维度放大法(compound scaling method)

在这里插入图片描述

其中 α , β , γ \alpha, \beta, \gamma α,β,γ，可通过网格搜索获得。混合系数 ϕ \phi

最低0.47元/天 解锁文章
kuweicai
关注
  • 1
    点赞
  • 踩
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
CV 经典主干网络 (Backbone) 系列: CSPNet
走在深度学习前沿的小宋
04-26 4686
CSPNet全称是Cross Stage Partial Networks，也就是跨阶段局部网络。CSPNet解决了其他大型卷积神经网络框架Backbone中网络优化的梯度信息重复问题，将梯度的变化从头到尾地集成到特征图中，因此减少了模型的参数量和FLOPS数值，既保证了推理速度和准确率，又减小了模型尺寸。
简单有趣的轻量级网络 Efficientnet（可以直接替换自己数据集）-直接放置自己的数据集就能直接跑。跑的代码有问题的可以在评论区（网络结构详解+详细注释代码+核心思想讲解）——pytorch实现
爱吃橘子的小翟
05-03 2142
这期博客我们来学习一下Efficientnet网络，属于NAS系列中最优秀的轻量级网络之一，通过NAS搜索的方式确定最佳的网络结构。之前的神经网络的宽度深度，输入图像的分辨率，是怎么获得的呢，说白了就是经验，研究人员通过无数的设计经验获得的，但是网络的发展不可能一直通过经验，如何获取最佳的结构是大家研究的问题。Efficientnet论文下载地址：https://arxiv.org/abs/1905.11946在Efficientnet出现之前，大家都在纠结对于提高网络性能的三点要求：
Efficientnet网络详解及构建
qq_52053775的博客
05-21 6297
1.EffificientNet的基线网络 2.MBConv结构 如图所示，1*1的卷积用于升维，将输入通道数变为filters_in * expand_ratio,Depwise Conv是深度可分离卷积，SE是Squeeze-and-Excitation模块，是Luong注意力机制在图像中的应用，下面1*1的卷积用于降维，将维度调整为filters_out，最后是Dropout层，减少过拟合。 2.1 深度可分离卷积 对于5x5x3的输入，如果想要得到3x3x4的f...
EfficientNet网络结构详细解读+SE注意力机制+pytorch框架复现
最新发布
慕溪同学的博客
05-12 1512
在前一篇博客当中已经详细解读了EfficientNet论文中的相关工作和实验，该论文是为了让调节网络的深度、宽度、输入scale达到一个合适的比例，以此让网络的特征提取部分达到最好的效果。但是在原论文当中其实是没有详细介绍网络结构搭建，这篇博客也是对EfficientNet网络结构进行深度详细剖析，详细介绍该网络中用到的SE注意力机制深度可分离卷积以及MBconv结构，并且使用pytorch框架进行复现。
EfficientNet网络结构图
weixin_43915511的博客
08-28 6627
CV 经典主干网络 (Backbone) 系列: Darknet-19
走在深度学习前沿的小宋
04-05 1100
在目标检测领域的YOLO系列算法中，作者为了达到更好的分类效果，自己设置并训练了DarkNet网络作为骨干网络。作者在ImageNet数据集上进行实验，发现相较于ResNet网络，DarkNet在分类精度差不多的前提下，计算速度取得了领先。
YOLOV5的多主干网络（backbone）实现.zip
03-05
# 复现TPH-YOLOv5 # 支持的backbone为Ghostnet、Shufflenetv2、Mobilenetv3Small、EagleEye、EfficientNetLite-0、PP-LCNet-1x、SwinTrans-YOLOv5
主干地址簿示例：示例Backbone应用
02-13
它只有一个模型（正在收集中）和稍微定制的Backbone.sync以适应REST API。 该应用程序已被用作演示在波士顿BackboneConf 2014上展示如何使用Backbone＆Hoodie构建Offline First应用程序。 设置 git clone git@...
backbone:主干示例应用程序
06-04
主干样板这个样板是大量研究和挫折的产物。 现有的样板可以自由修改 Backbone 核心，缺乏构建过程，并且非常规范； Backbone Boilerplate 改变了这一点。 Backbone Boilerplate 是一种组织具有一些自以为是的默认值...
backbone:主干.js
07-07
____ __ __/\ _`\ /\ \ /\ \ __\ \ \ \ \ __ ___\ \ \/'\\ \ \____ ___ ___ __ /\_\ ____ \ \ _ <' /'__`\ /'___\ \ , < \ \ '__`\ / __`\ /' _ `\ /'__`\ \/\ \ /',__\ \ \ \ \ \/\ \ \.\_/\ \__/\ \ \\`\\ \...
single-spa-backbone:单spa主干插件
05-08
单spa骨干网 一个提供生命周期事件的插件，用于使用构建应用程序。
快速了解机器视觉(CV)基础知识
qq_45104603的博客
10-31 6564
机器视觉快速入门知识点梳理
EfficientDet实验笔记
m0_53232749的博客
10-31 1281
一些自己对EfficientDet的理解、总结以及实验
efficienet网络论文解读
IT荻的博客
12-06 2106
df
EfficientNet Backbone结构解析 -- 以EfficientNet-B0为例说明
tanmx219的博客
10-12 2710
一般而言，不论我们是否要将该主干结构用于何种模型，一般都是在这个基础上进行的。例如，将在Yolact中用EfficientNet替换Resnet，可以在同等效果下让模型数据量降为原来的大约1/4到1/5左右。 下面我列出一下主干结构。 self._conv_stem Conv2dStaticSamePadding( (conv): Conv2d(3, 32, kernel_size=(3, 3), stride=(2, 2), bias=False) ) self._blocks 模
CNN卷积神经网络之EfficientNet
qq_41917697的博客
04-24 1518
CNN卷积神经网络之EfficientNet前言设计方法和对比实验网络结构小结 前言 《EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks》 论文地址：https://arxiv.org/pdf/1905.11946.pdf 这是2019年的一篇炼丹的单方，给出了从深度、宽度、分辨率三个维度的设计方案。以往的网络设计通常是依靠提升一个方面来提升性能，而EfficientNet是三者复合的方式提升网络性能，在NAS搜
CV 经典主干网络 (Backbone) 系列: ResNet家族
生命在于折腾！
03-20 2683
CV 经典主干网络 (Backbone) 系列: ResNet家族 作者：Kaiming He 等 发表时间：2015 Paper 原文： Deep Residual Learning for Image Recognition 该篇是 CV 经典主干网络 (Backbone) 系列 下的一篇文章。 ResNet 在 CV 发展史上有非常重要的意义，它在 ImageNet 挑战赛上，首次实现了超越人类的水平。关于 ResNet 的介绍，将分为上下两个部分： ResNet家族：主要介绍原版（凯明大神论文
EfficientDet网络解析
bblingbbling的博客
07-12 2455
EfficientDet网络解析模型效果模型结构EfficientNet网络BiFPN网络anchorLoss函数Compound Scaling的影响EfficientDet系列参数EfficientDet系列模型效果 模型效果 EfficientDet在COCO上的精度和模型FLOPs如下所示： 模型结构 EfficientDet以EfficientNet网络作为backbone，BiFPN作为特征融合网络， 最终共享class/box预测网络。 EfficientNet网络 EfficientNe
yolov5的主干网络backbone
06-28
### 回答1： YOLOv5的主干网络（backbone）采用的是CSPNet（CSPDarknet53）结构，这是一种高效的卷积神经网络结构，可以有效地提取图像特征。它基于Darknet53，通过使用Cross Stage Partial（CSP）连接来减少参数数量和计算量，同时保持高精度的目标检测性能。CSPDarknet53在处理大型图像数据集时表现优异，因此在YOLOv5中被广泛采用。 ### 回答2： YOLOv5是一种基于深度学习的目标检测算法，它使用了不同的主干网络(backbone)来提取特征并进行目标检测。主干网络是目标检测算法中最重要的组件之一，它负责处理输入图像并输出特征图，提高了目标检测的准确率和速度。 YOLOv5采用了两种不同类型的主干网络，即CSPDarkNet和EfficientNet。CSPDarkNet主干网络是一种改进版本的Darknet，它引入了Cross Stage Partial Network(CSP)模块，将输入特征图分成两部分进行处理，一部分直接通过多个CSP模块处理，另一部分在多个Residual Block中进行处理。这种结构有效地降低了复杂度，并提升了算法的性能。 EfficientNet主干网络则是一种基于强化学习的网络结构搜索方法，其目的是在保证网络模型大小和计算量不增加的情况下，提高网络的准确率。EfficientNet使用了一系列不同的网络结构，在网络中添加了多个可调节的超参数，如深度、宽度和分辨率等来搜索最佳网络结构。 综合来说，YOLOv5的主干网络(backbone)采用了不同的架构和技术，使得算法性能更加出色。CSPDarkNet采用了近似全卷积的方式提取特征，减少了参数量和计算量，EfficientNet则是在逐渐增大的网络结构中搜索最佳的网络结构，提高了算法的准确性和速度。这些不同类型的主干网络结合在一起，构成了YOLOv5目标检测算法强大的功能组件。 ### 回答3： YOLOv5是一种用于目标检测的神经网络模型，其主干网络（backbone）是由CSPDarknet53网络改进而来的。CSPDarknet53是Darknet53的一个变种，通过引入一种称为“cross-stage partial network”的特殊结构，来使网络运行速度更快且精度更高。 CSPDarknet53网络通过将网络分成两部分来实现跨阶段部分连接。在网络的中心，有一个名为CSP（cross-stage partial）的模块，将两个子网之间的连接简化为交叉连接。这使得网络各个部分之间的信息共享更加高效，从而提高了网络的准确性和效率。 跨阶段部分连接结构的另一个优点是它能够通过降低计算复杂度来加速网络的训练和推断速度。通过在网络的中心引入CSP模块，可以将网络的计算量减少至原来的一半左右。 除了CSPDarknet53，YOLOv5的主干网络还包括一个SPP模块（spatial pyramid pooling）。SPP模块可在不引入卷积操作的情况下改变特征图的大小，从而提高网络的感受野。这对于目标检测任务尤为重要，因为它允许网络对目标的各种尺度和大小进行检测。 总之，YOLOv5的主干网络backbone是由CSPDarknet53和SPP模块组成的改进网络。CSPDarknet53通过引入跨阶段部分连接结构来提高网络的信息共享效率和计算速度；SPP模块通过自适应池化操作来扩大网络的感受野，提高目标检测的精度和效率。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值