【深度学习】【轻量型网络】MobileNet、ShuffleNet

最新推荐文章于 2024-05-25 11:03:00 发布
最新推荐文章于 2024-05-25 11:03:00 发布
阅读量584 收藏 1
点赞数
分类专栏： 深度学习 文章标签： 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36530992/article/details/102630552
版权
本文介绍了深度学习中的轻量级网络MobileNet v1和v2以及ShuffleNet v1和v2。MobileNet v1采用深度可分离卷积，而v2引入了Linear Bottlenecks和Inverted residual blocks解决训练中的问题。ShuffleNet v1利用Group convolution和Channel shuffle，v2则提出了高效的模型设计准则，关注MAC和并行能力。
摘要由CSDN通过智能技术生成

【轻量型网络】MobileNet、ShuffleNet

MobileNet

  • 提出顺序：MobileNet v1 -> ShuffleNet v1 -> MobileNet v2 -> ShuffleNet v2
  • 组卷积：实质就是将卷积分为 g g g个独立的组分别计算，分组卷积的参数量是标准卷积的 1 g \frac 1g g1​


在这里插入图片描述

MobileNet v1

Google在2017提出，将卷积分为depthwise和pointwise两部分
在这里插入图片描述

depthwise将 N × C × H × W N\times C \times H \times W N×C×H×W的输入分为 C C C组，每一组做 3 × 3 3\times 3 3×3的卷积

在这里插入图片描述

pointwise将 N × C × H × W N\times C \times H \times W N×C×H×W的输入做 1 × 1 1\times 1 1×1的卷积

在这里插入图片描述
普通卷积:

最低0.47元/天 解锁文章
Hanawh
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
常用的轻量化网络结构：SqueezeNet、MobileNet、ShuffleNet、Xception
JACK_YOUNG007的博客
04-29 9060
引言 自2012年AlexNet以来，卷积神经网络（简称CNN）在图像分类、图像分割、目标检测等领域获得广泛应用。随着性能的要求越来越高，AlexNet 已经无法满足大家的需求，于是乎各路大牛纷纷提出性能更优越的 CNN 网络，如VGG、GoogLeNet、ResNet、DenseNet等。由于神经网络的性质，为了获取更好的性能，网络的层数不断增加，从7层 AlexNet 到16层 VGG，再从...
深度学习-轻量级骨干网-QPS
05-06
【深度学习-轻量级骨干网-QPS】文档主要探讨了在深度学习中，如何选择适合实际业务的轻量级骨干网，通过在英伟达T4 GPU上测试QPS（Queries Per Second，即每秒处理查询数）来评估模型性能。本文主要涉及以下几个关键...
经典网络结构 (八)：轻量化网络 (SqueezeNet, MobileNet, ShuffleNet)
连理o的博客
03-13 1万+
目录SqueezeNet: Squeeze and ExpandFire ModuleSqueezeNetSqueezeNet 总结MobileNet: Depthwise Separable ConvolutionShuffleNet: 通道混洗参考文献 SqueezeNet: Squeeze and Expand Fire Module SqueezeNet 的主要模块为 Fire Module，它主要从网络结构优化的角度出发，使用了如下 3 点策略来减少网络参数，提升网络性能： (1) 使用 1×
【轻量级网络】经典网络模型--ShuffleNet详解
最新发布
m0_57248668的博客
05-25 434
ShuffleNet使用是一种计算效率极高的CNN架构，它是专门为计算能力非常有限的移动设备设计的；通过逐点分组卷积（Pointwise Group Convolution）和通道洗牌（Channel Shuffle）两种新运算，在保持精度的同时大大降低了计算成本。
轻量型网络SqueezeNet
justsolow的博客
06-23 1393
轻量型网络SqueezeNet 近些年来深层卷积网络的主要方向集中于提高网络的准确率。而对于相同的正确率，更小的CNN架构可以提供如下优势：（1）在分布式训练中，与服务器通信需求更小。（2）参数更少，从云端下载模型的数据量少。（3）更适合在FPGA等内存受限的设备上部署。基于这些优点，这篇论文提出了SqueezeNet。它在ImageNet上实现了和AlexNet相同的准确率，但是只使用了150\frac{1}{50}501​AlexNet的参数。更进一步，使用模型压缩技术，可以将SqueezeNet压缩到
开源一个简易轻量的reactor网络框架
seaboat——a free boat on the sea.（公众号：远洋号）
03-30 3650
githubhttps://github.com/sea-boat/net-reactornet-reactorit’s a simple and easy net framework with nio mode written by javareactor modelhow-tojust simply like:public class MyHandler implements Handler {
深度学习方法（十四）：轻量级CNN网络设计——MobileNet，ShuffleNet，文末有思考
热门推荐
Bin 的专栏
08-25 2万+
本系列前面介绍了非常多卷积网络结构设计，事实上，在inception和resnet网络提出并相对完善以后，网络结构的设计就不再爆发式出现了，这两大类网路涵盖了大部分应用的卷积网络结构。 在本文中，我们来一起看一些最近一年研究较多的轻量级卷积网络结构，这些网络主要的设计目标是——在保证一定的识别精度情况下，尽可能减少网络规模（参数量、计算量）。最直接的设计目标就是用于手机等移动终端中（CPU），让
轻量化神经网络篇（SqueezeNet、Xception、MobileNet、ShuffleNet）
01-20
模型轻量化的主要方法包括卷积核分解、深度压缩（网络剪枝、量化、哈弗曼编码）、奇异值分解、硬件加速器以及低精度浮点数保存等。这些方法的目标是降低模型的存储需求和计算复杂性，使其更适合在资源有限的环境如...
深度学习轻量化目标检测综述（论文及思维导图）
11-04
"2023.9.27深度学习轻量化目标检测综述.xmind"和"(2023)基于深度学习的目标检测算法研究与应用综述.xmind"是关于这一主题的可视化工具，用以梳理和组织相关知识点。它们可以帮助学习者快速理解深度学习目标检测的...
轻量化模型的”前世今生“
03-23
总结来说，轻量化网络的发展是深度学习在有限资源环境应用的关键。通过深入理解神经网络的结构，设计创新的卷积操作，结合模型压缩技术和硬件优化，我们能够构建出在保持高效率的同时兼顾准确性的模型。MobileNet的...
42. 轻量化卷积神经网络：SqueezeNet、MobileNet、ShuffleNet、Xception - TensorS
08-03
这四个轻量化模型SqueezeNet、MobileNet、ShuffleNet、Xception都是为了解决深度学习模型在计算效率和存储空间上的问题。它们各自提出了独特的卷积方式，如SqueezeNet的Fire Module、MobileNet的Depthwise Separable...
轻量化网络综述
05-22
包含自己做的一个presentation，和相关的参考文献，shuffleNet，MobileNet v1 Mobilev2,等
轻量化卷积神经网络技术研究.pdf
09-25
轻量化卷积神经网络技术是近年来深度学习领域的重要研究方向，尤其在移动设备和嵌入式系统的应用中显得尤为重要。传统的卷积神经网络（CNN）虽然在图像识别、语义分割和物体检测等方面表现出色，但其庞大的模型参数...
轻量化卷积神经网络目标检测算法综述.pdf
09-25
本文对轻量化卷积神经网络目标检测算法进行了系统总结，包括SqueezeNet、MobileNet、ShuffleNet等轻量化网络的概述，以及CNN类轻量化目标检测算法的发展历程和研究进展。 一、卷积神经网络（CNN）概述 卷积神经...
轻量级深度可分离混合卷积神经网络的目标检测算法.pdf
09-25
轻量级神经网络模型设计通常有两种策略：一是专门设计小型网络结构，如Mobilenet、Mixnet和ShuffleNet；二是通过模型剪枝、权重共享等手段压缩大型模型。考虑到移动端的限制，本文采用了以SSD为代表的单阶段检测框架...
轻量化网络-squeezeNet、MobileNet、ShuffleNet
LeoLee
04-27 2307
对于轻量化的网络设计，目前较为流行的有SqueezeNet、 MobileNet、ShuffleNet等结构。其中，SqueezeNet采用压缩再扩展的结构，MobileNet使用了效率更高的深度可分离卷积，而ShuffleNet提出了通道混洗的操作，从而进一步降低了模 型的计算量。 SqueezeNet ...
【深度学习研读系列】轻量级网络模型Mobilenet，Shufflenet
云端筑梦师
09-07 459
深度可分离卷积以及对应的轻量级网络模型 参考文献： mobilenet: 通过Depthwise+Pointwise可以近似看作一个卷积层： （深度可分解卷积和1*1卷积结合） 普通卷积：3x3 Conv+BN+ReLU Mobilenet卷积：3x3 Depthwise Conv+BN+ReLU 和 1x1 Pointwise Conv+BN+ReLU 这样的卷积方式通过将深度进行分解卷积，...
轻量级网络结构
程序猿的视界
08-14 1816
轻量级网络
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值