MobileNet网络详解

已于 2022-11-02 10:47:30 修改
阅读量1w 收藏 54
点赞数 10
文章标签： 深度学习
于 2022-11-02 10:05:25 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_44708206/article/details/127644989
版权

1、MobileNet

MobileNet网络专注于移动端或者嵌入式设备中的轻量级CNN，相比于传统卷积神经网络，在准确率小幅度降低的前提下大大减少模型参数与运算量。
传统卷积与DW卷积（Depthwise Conv）的差异，在传统卷积中，每个卷积核的channel与输入特征矩阵的channel相等（每个卷积核都会与输入特征矩阵的每一个维度进行卷积运算），输出特征矩阵channel等于卷积核的个数。而在DW卷积中，每个卷积核的channel都是等于1的（每个卷积核只负责输入特征矩阵的一个channel，卷积核的个数=输入特征矩阵的channel数=输出特征矩阵的channel数）
在这里插入图片描述
PW卷积实现改变输出特征矩阵的channel，DW卷积后接上一个PW卷积即可，PW卷积是大小为1×1的普通的卷积。通常DW卷积和PW卷积是放在一起使用的，一起叫做Depthwise Separable Convolution（深度可分卷积）
在这里插入图片描述
下图是关于参数计算的比较
在这里插入图片描述

2、MobileNetV2

V2网络结构中引入了倒残差结构。
ResNet网络中的残差结构是1x1卷积降维->3x3卷积->1x1卷积升维，在倒残差结构中是1x1卷积升维->3x3DW卷积->1x1卷积降维，也就是和残差结构相反的操作。残差结构中基本使用的都是ReLU6激活函数，但是最后一个1x1的卷积层使用的是线性激活函数，因为ReLu激活函数对低位特征信息造成大量损失。
在这里插入图片描述
并不是所有的倒残差结构都有shortcut连接，只有当stride=1且输入特征矩阵与输出特征矩阵shape相同时才有shortcut连接，因为只有当shape相同时，两个矩阵才能做加法运算，否则只能进行拼接运算，但是当stride=1时并不能保证输入特征矩阵的channel与输出特征矩阵的channel相同。
输入特征矩阵为hwk，经过11conv(卷积核个数为tk)后为hwtk，【t为一个扩展因子，对应倒残差结构中第一层11conv卷积核的扩展倍率】，再经过一个33步距为s的DW卷积后为h/sw/stk，再经过11conv(卷积核个数为k’)后为h/sw/sk’
在这里插入图片描述
网络结构图
在这里插入图片描述

3、MobileNetV3

博客链接

川河w
关注
  • 10
    点赞
  • 踩
  • 54
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
[ 轻量级网络 ] 经典网络模型2——MobileNet 详解与复现
A_John 的博客
05-05 2441
[ 轻量级网络 ] 经典网络模型2——MobileNet 详解与复现 1、MobileNet； 2、MobileNet 详解； 3、MobileNet 复现； MobileNet 使用 深度可分离卷积 来构建轻量级的深度神经网络，是一种用于 移动和嵌入式视觉 应用的高效模型 ； 通过引入的两个简单 全局超参数，有效地在 延迟和准确性 之间进行权衡 ； 🔗 论文地址：...
mobilenet 解析
ManiacLook的博客
03-02 2万+
1.简介 MobileNets 基于流线型架构，使用深度可分离卷积来构建轻量级深度神经网络，用于移动和嵌入式视觉应用。该网络引入了两个简单的全局超参数——宽度乘数和分辨率乘数，可以有效地在延迟和准确性之间进行权衡。这些超参数允许模型构建者根据问题的限制条件为其应用程序选择合适大小的模型。 图1.mobilenet 作为 backbone 可以用于各种视觉任务。 2.mobilenet 结构 2.1.深度可分离卷积 MobileNet 模型基于深度可分离卷积，这是一种分解卷积形式，将标准卷积分解为深度卷
MobileNetV4——移动生态系统的通用模型
m0_47867638的博客
06-03 918
论文链接：https://arxiv.org/pdf/2404.10518我们推出了最新一代的MobileNets，称为MobileNetV4（MNv4），其特点是为移动设备提供普遍高效的架构设计。在核心部分，我们引入了通用倒置瓶颈（UIB）搜索块，这是一种统一且灵活的结构，融合了倒置瓶颈（IB）、ConvNext、前馈网络（FFN）以及新型Extra Depthwise（ExtraDW）变体。
轻量级神经网络MobileNet全家桶详解
雷恩Layne
09-05 4万+
本文是转载文章，转载自从MobileNet看轻量级神经网络的发展，删除了文中冗余的部分，并加入许多自己的理解，通过引入具体的计算更清晰的反映出轻量级神经网络MobileNet的本质。 文章目录前言MobileNet的优势MobileNet各版本介绍MobileNetV1网络结构MobileNetV2网络结构MobileNetV3网络结构MobileNet各版本特性深度卷积(Depthwise convolution)逐点卷积(Pointwise Convolution)深度可分离卷积(Depthwise.
轻量级网络--MobileNet论文解读
热门推荐
DFan的NoteBook
01-29 9万+
MobileNetV1 MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications 原文地址：MobileNetV1 代码: TensorFlow官方 github-Tensorflow github-Caffe Abstract MobileNets是为移动和嵌入式设
MobileNet（轻量级神经网络）
m0_47005029的博客
02-28 2648
MobileNet（轻量级神经网络）
图像分类学习笔记（七）——MobileNet
weixin_45827876的博客
08-31 3230
一、MobileNetV1一、MobileNetV1传统的神经网络，内存需求大、运算量大，导致无法在移动设备以及嵌入式设备上运行。之前的VGG16模型权重大小大概有490M，ResNet模型权重大小大概有644M。MobileNet网络是由google团队在2017年提出的，专注于移动端或者嵌入式设备中轻量级CNN网络。相比于传统卷积神经网络，在准确率小幅降低的前提下大大减少模型参数与运算量（相比VGG16准确率减少了0.9%，但模型参数只有VGG的1/32）（一）要点。
通俗易懂理解MobileNet网络模型
IT菜鸟
01-27 2903
通俗易懂理解MobileNet网络模型
第七章 MobileNetv2网络详解
ADICDFHL的博客
06-20 3702
本文介绍了一种新的移动架构，MobileNetV2，该架构在多项任务和基准测试中改进了移动模型的性能，并且在不同模型大小的光谱中都有所提高。我们还描述了一种有效的方法，将这些移动模型应用于我们称之为SSDLite的新型框架中的目标检测。此外，我们演示了如何通过我们称之为Mobile DeepLabv3的简化形式的DeepLabv3来构建移动语义分割模型。该架构是基于一种倒置残差结构，其中快捷连接在窄的瓶颈层之间。中间扩展层使用轻量级深度卷积来过滤特征作为非线性源。
从MobileNetv1到MobileNetv3模型详解
m0_62919535的博客
02-17 1513
MobileNet系列包括V1、V2和V3，专注于轻量级神经网络。MobileNetV1采用深度可分离卷积，MobileNetV2引入倒残差模块，提高准确性。MobileNetV3引入更多设计元素，如可变形卷积和Squeeze-and-Excitation模块，平衡计算效率和准确性。这三个系列在移动设备和嵌入式系统上取得成功，为资源受限的环境提供高效的深度学习解决方案。mobilenetv1，mobilenetv2，mobilenetv3模型的pytorch实现与讲解。
轻量级卷积神经网络MobileNets详细解读
m0_53675977的博客
01-08 2139
随着深度学习的飞速发展，计算机视觉领域内的卷积神经网络种类也层出不穷。从1998年的LeNet网络到2012引起深度学习热潮年的AlexNet网络，再到2014年的VGG网络，再到后来2015的ResNet网络，深度学习网络在图像处理上表现得越来越好。但是这些网络都在不断增加网络深度和宽度来提高网络的准确度，如深度残差网络（ResNet）其层数已经多达152层。网络准确度虽然得到了极大提高，但是网络参数量变得越来越大，网络变得越来越复杂，运行模型需要大量的算力资源。这些网络模型对于像手机这样的移动端嵌入式设
深度学习网络模型 MobileNet系列MobileNet V1、MobileNet V2、MobileNet V3网络详解以及pytorch代码复现
guoqingru0311的博客
11-01 1万+
深度学习网络模型 MobileNet系列MobileNet V1、MobileNet V2、MobileNet V3网络详解以及pytorch代码复现 1、DW卷积与普通卷积计算量对比 DW与PW计算量 普通卷积计算量 计算量对比 2、MobileNet V1 MobileNet V1网络结构 MobileNet V1网络结构代码 3、MobileNet V2 倒残差结构模块 倒残差模块代码 MobileNet V2详细网络结构 MobileNet V2网络结构代码 4、MobileNet V3
|从零搭建网络| MobileNet系列网络详解及搭建
qq_58202678的博客
03-16 1576
从零搭建网络| MobileNet系列网络详解及搭建
轻量级网络开山之作：MobileNet
qq_36936443的博客
04-11 1098
目录 1.1 MobileNet v1 1.2 MobileNet V2 1.3 MobileNet v3 前面我们谈到的卷积神经网络，内存需求大、运算量大，往往无法在移动设备以及嵌入式设备上运行（比如resnet-152有644m参数，基本不可能在移动设备上运行） 而深度学习的初衷就是为了能将AI技术应用落地，因此轻量级网络应用而生。MobileNet网络是由google团队在2017提出的，专注于移动端或嵌入式设备中使用，是轻量级网络的开山之作。 ...
Mobile net系列总结（V1、V2、V3）
m0_62108334的博客
07-10 4594
一、Mobile Net V1主要贡献： （1）使用了深度可分离卷积构建轻量级卷积神经网络，由depthwise(DW)和pointwise(PW)两个部分结合起来，用来提取特征feature map。相比常规的卷积操作，其参数数量和运算成本比较低。 深度可分离卷积参考博文：(129条消息) 深度可分离卷积（Depthwise seperable convolution）_冰雪棋书的博客-CSDN博客_深度可分离卷积 （2）引入了两个简单的全局参数来有效平衡延迟性和
轻量级网络——MobileNetV2
Clichong
05-16 4万+
1.MobileNetV2的介绍 MobileNet v2网络是由google团队在2018年提出的，相比MobileNet V1网络，准确率更高，模型更小。 网络中的亮点 ： Inverted Residuals （倒残差结构 ） Linear Bottlenecks（结构的最后一层采用线性层） 2.MobileNetV2的结构 1）Inverted Residuals 在之前的ResNet残差结构是先用1x1的卷积降维，再升维的操作。而在MobileNetV2中，是先升维，在降维的操作。 所以对于
【轻量级网络】MobileNet-v2详解
Roaddd的博客
12-20 2万+
论文：《Inverted Residuals and Linear Bottlenecks: Mobile Networks for Classification, Detection and Segmentation》 论文链接：https://arxiv.org/abs/1801.04381 前文链接：MobileNet-v1详解 – 概述        MobileNet-v2的主要思想就是在v1的基础上引入了线性瓶颈 (Linea
【深度学习】经典的卷积神经网络模型介绍（LeNet、AlexNet、VGGNet、GoogLeNet、ResNet和MobileNet）
点赞的都能无bug通过！
03-17 4万+
经典的卷积神经网络模型介绍卷积神经网络简介一、LeNet1、INPUT层-输入层2、C1层-卷积层3、S2层-池化层（下采样层）4、C3层-卷积层5、S4层-池化层（下采样层）6、C5层-卷积层7、F6层-全连接层二、AlexNet1、AlexNet特点2、ReLu作为激活函数3、数据增强4、层叠池化5、局部相应归一化6、Dropout7、Alex网络结构8、AlexNet参数数量三、VGG net1、VGG的特点2、VGG网络结构3、VGG优缺点四、GoogLeNet1、GoogLeNet Incepet
【CNN】MobileNet——卷积神经网络中轻量级的经典
lingchen1906的博客
11-22 2202
作者实验发现 V2 网络最后一部分结构可以优化，如Figure5所示，原始的结构用 1x1 的卷积来调整 feature 的维度，从而提高预测的精度，但是这一部分也会造成一定的延时，为了减少延时，作者把 average pooling 提前，这样的话，这样就提前把 feature 的 size 减下来了（pooling 之后 feature size 从 7x7 降到了 1x1）。这样一来延时减小了，但是试验证明精度却几乎没有降低。
MobileNet keras
最新发布
06-15
MobileNet 是一种轻量级的深度学习模型，专为移动设备和嵌入式系统设计，以减少计算资源和内存占用，同时保持较高的性能。它是 Google 在 2017 年 ICLR 大会上提出的，由 Inception 模型发展而来，但采用了深度可分离卷积（Depthwise Separable Convolution）来大幅度减少参数数量。 在 Keras 中，你可以使用 `tf.keras.applications.MobileNet` 或 `keras.applications.mobilenet_v2.MobileNetV2` 来导入预训练的 MobileNet 模型。这个模型通常包括以下几个部分： 1. **输入层**：接受图像数据作为输入。 2. **卷积层**：包括深度可分离卷积层，它们分别对空间维度和通道维度进行操作，大大减少了参数数量。 3. **瓶颈层**：使用扩张路径（Expanded Path），包含一个深度可分离卷积后接一个1x1卷积来增加通道数。 4. **全局平均池化**（Global Average Pooling）：代替全连接层，减少过拟合并使网络更易于部署。 5. **分类层**：如 `tf.keras.layers.Dense`，用于输出分类结果。 如果你想要在 Keras 中使用 MobileNet，可以直接加载预训练权重，然后可以选择冻结部分层进行微调，或者从头开始训练。以下是使用 Keras 导入 MobileNet 的基本步骤： ```python from tensorflow.keras.applications import MobileNet from tensorflow.keras.models import Model from tensorflow.keras.layers import Dense, GlobalAveragePooling2D # 加载预训练模型 base_model = MobileNet(weights='imagenet', include_top=False, input_shape=(img_height, img_width, 3)) # 添加全局平均池化和全连接层进行分类任务 x = base_model.output x = GlobalAveragePooling2D()(x) predictions = Dense(num_classes, activation='softmax')(x) # 创建新的模型 model = Model(inputs=base_model.input, outputs=predictions) # 选择是否训练或冻结预训练层 if fine_tuning: # 冻结所有层 for layer in base_model.layers: layer.trainable = False # 再定义几个顶部的层进行微调 num_frozen_layers = len(base_model.layers) - num_top_layers_to_freeze for layer in model.layers[:num_frozen_layers]: layer.trainable = False else: # 训练整个模型 model.trainable = True ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值