EfficientNet

最新推荐文章于 2024-05-12 20:47:49 发布
最新推荐文章于 2024-05-12 20:47:49 发布
阅读量1.6k 收藏 5
点赞数 1
文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44093630/article/details/126961993
版权

提特征的模块一般称为backbone，可以说特征提取就是深度学习最为核心的东西。而EfficientNet系列模型是谷歌大脑在2019年提出，该模型探索了网络深度，宽度，图片分辨率对准确率的影响，提出了符合模型扩张的方法平衡深度，宽度，分辨率之间的关系。

EfficientNet基本网络结构

用强化学习对参数进行调整，而不是遍历去调整参数。（参数搜索NAS）H*W，C特征图大小，Layers特征图大小。
在这里插入图片描述

MBConv（depthwise）深度可分离卷积

目的是减少减少卷积过程中的参数，不用想传统filter与每一channel做卷积然后相加。DW特征图是一对一的。在Map后加上N个11的普通卷积，可以保证特征图的输出个数。
在这里插入图片描述
这样做特征会减小，但是参数也会减少，用11卷积把特征补起来。

SE模块

也就是将卷积后得到的特征图看成是序列加入到注意力机制模块，得到每个111特征图的权重参数。（个人理解）
在这里插入图片描述

时光微痛，岁月长空
关注
  • 1
    点赞
  • 踩
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
EfficientNet 和 EfficientDet
简国堂的博客
01-17 499
参考知乎 令人拍案叫绝的EfficientNet和EfficientDet EfficientNet (e)compound scaling 也就是 EfficientNet ，它是通过调节width，depth，resolution三个维度来缩放模型，具体缩放多少，是通过作者提出的***复合模型扩张方法结合神经结构搜索技术*** 获得的。 从直观上看，复合缩放方法是有意义的，因为如果输入的图像更大，那么网络就需要更多的层来增加接受域和更多的通道来在更大的图像上捕捉更细粒度的模式。 论文：Efficien
efficientnet-yolo3-pytorch:这是一个有效的网络-yolo3-pytorch的原始码，将yolov3的主干特征提取网络修改成为有效的网络
03-23
YOLOV3：只看一次目标检测模型在Pytorch当中的实现-替换高效网络主干网络 2021年2月8日更新：加入letterbox_image的选项，关闭letterbox_image后网络的地图得到大幅度提升。 目录 性能情况 训练数据集 权值文件名称 测试数据集 输入图片大小 行动计划0.5：0.95 行动计划0.5 挥发性有机化合物07 + 12 VOC-Test07 416x416 -- 78.9 所需环境 火炬== 1.2.0 文件下载 训练所需的efficiencynet-b2-yolov3的权重可以在百度云下载。链接： ： 提取码：hiuq其他版本的efficiencynet的权重可以将YoloBody（Config，phi = phi，load_weights = False）的load_weights参数设置成True，从而获得。 预测步骤 a，使用预训练权
EfficientNet网络结构详细解读+SE注意力机制+pytorch框架复现
最新发布
慕溪同学的博客
05-12 1913
在前一篇博客当中已经详细解读了EfficientNet论文中的相关工作和实验，该论文是为了让调节网络的深度、宽度、输入scale达到一个合适的比例，以此让网络的特征提取部分达到最好的效果。但是在原论文当中其实是没有详细介绍网络结构搭建，这篇博客也是对EfficientNet网络结构进行深度详细剖析，详细介绍该网络中用到的SE注意力机制深度可分离卷积以及MBconv结构，并且使用pytorch框架进行复现。
EfficientNet文章分析的重点提取
TEDDY的博客
05-11 681
传统增加模型精度的方法： ResNet[1]可以通过增加层数将 ResNet-18扩展到 ResNet-200 GPipe[2]通过将 CNN baseline扩展4倍，在 ImageNet[3]上实现了84.3% 的准确率。 传统的模型缩放实践是 任意增加 CNN 的深度 任意增加 CNN 的宽度 使用更大的输入图像分辨率 缺点： 需要长时间的手动调优，并且仍然会经常产生次优的性能。 一篇ICML文章[4]提出了一个更有原则性的方法来扩大 CNN 的规模,从而可以获得更好的准确性和...
efficientnet
liguandong
11-10 1781
EfficentNet详解之MBConvBlock - 知乎Efficientnet 是基于MBConvBlock建立的网络。MBConvBlock模块的拓朴图如下： class MBConvBlock(nn.Module): """ Mobile Inverted Residual Bottleneck Block Args: block_args (namedtuple): BlockAr…https://zhuanlan.zhihu.com/p/258386372后ResNet时代的顶流Efficie
【项目问答】EfficientNet
qq_41427793的博客
02-26 2862
篇论文主要是用NAS（Neural Architecture Search）技术来搜索网络的图像输入分辨率r ，网络的深度depth以及channel的宽度width三个参数的合理化配置。 增加网络的深度depth能够得到更加丰富、复杂的特征并且能够很好的应用到其它任务中。但网络的深度过深会面临梯度消失，训练困难的问题。 增加网络的width能够获得更高细粒度的特征并且也更容易训练，但对于width很大而深度较浅的网络往往很难学习到更深层次的特征。 增加输入网络的图像分辨率能够潜在得获得更高细粒度的特
读 DeepFake detection with multi-scale convolution and vision transformer 第一期：MBConv
weixin_50281113的博客
05-11 795
MBConv由下图组成。MBConv6指第一层1*1卷积层的卷积核个数为6，若是MBConv1则第一层可以省略。以下是MBConv网络的详细代码及注释，主要是根据上图的流程搭建。
efficientnet-b2权重文件
04-08
efficientnet-b2-8bb594d6.pth
EfficientNet 预训练文件
08-05
EfficientNet 是一种深度学习模型，由 Google 的研究者在2019年提出，旨在解决卷积神经网络（CNN）的设计问题。传统的 CNN 设计往往通过增大模型规模（宽度、深度和分辨率）来提升性能，但这种方法既耗时又消耗资源...
efficientnet-lite3.tar.gz
04-02
efficientnet-lite3.tar.gz
使用Tensorflow实现EfficientNetV2-S结构
Keep_Trying_Go的博客
06-08 973
使用Tensorflow实现EfficientNetV2结构
【图像分类】CNN+Transformer结合系列.2
m0_61899108的博客
07-28 7083
​ 介绍几篇利用CNN+Transformer实现图像分类的论文：CMT（CVPR2022），MaxViT(ECCV2022)，MaxViT（ECCV2022），MPViT（CVPR2022）。主要是说明Transformer的局限性，然后利用CNN的优势去弥补和结合。 ​
EfficientNet v2网络学习记录--更小更快
panghuzhenbang的博客
05-05 1270
论文地址：2021 CVPR --Google 《EfficientNetV2: Smaller Models and Faster Training》 亮点： 使用训练感知神经结构搜索和缩放的组合，以共同优化训练速度和参数效率； 在EfficientNet的基础上，引入了Fused-MBConv到搜索空间中； 引入渐进式学习策略、自适应正则强度调整机制使得训练更快； 进一步关注模型的推理速度与训练速度。 1. 引言 论文提出一种训练速度更快、参数量更少的卷积神经网络EfficientNet
【图像分类】用通俗易懂代码的复现EfficientNetV2，Python面试Python基础
2401_84239830的博客
04-10 958
这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。最近我才对这些路线做了一下新的更新，知识体系更全面了。
Efficientnet网络详解及构建
qq_52053775的博客
05-21 6410
1.EffificientNet的基线网络 2.MBConv结构 如图所示，1*1的卷积用于升维，将输入通道数变为filters_in * expand_ratio,Depwise Conv是深度可分离卷积，SE是Squeeze-and-Excitation模块，是Luong注意力机制在图像中的应用，下面1*1的卷积用于降维，将维度调整为filters_out，最后是Dropout层，减少过拟合。 2.1 深度可分离卷积 对于5x5x3的输入，如果想要得到3x3x4的f...
EfficientNetV1(pytorch)
m0_56294205的博客
12-12 585
读模型代码我喜欢从最下面的 def efficientnet_b2(num_classes=1000): 模型定义时候开始看，从传参调用一个一个去看模型的整个结构，包括所有MBConv模块参数的构建，所有层的构建，小模块的构建等等细节。这个和MobileNetV3有些不同，第一层全连接长度不是升维后的3*3DW卷积维度的1/4，二是PW升维前的输入通道的1/4。之前的研究探索的是单个因改变的影响，这篇论文采用网络搜索机制同时探索3个因素的影响。用的EfficientNetB0进行的训练。
深度学习论文: MOAT: Alternating Mobile Convolution and Attention Brings Strong Vision Models及其PyTorch实现
mingo_敏
10-24 1358
MOAT 分析了MBConv和Transformer Block 的优缺点，将二者有效地合并到MOAT Block中。此外，通过简单地将全局注意力转换为窗口注意力，MOAT可以无缝应用于需要大分辨率输入的下游任务。由于 Mobile Convolution 可以有效地在像素之间交换局部信息（从而跨窗口），MOAT不需要额外的窗口移动机制。
第5周学习：ShuffleNet & EfficientNet & 迁移学习
qq_37466455的博客
08-10 590
第五周学习

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值