MobileNet 原理

一、参数数量和理论计算量

1、定义

参数数量(params):关系到模型大小,单位通常为M,通常参数用 float32 表示,所以模型大小是参数数量的 4 倍
理论计算量(FLOPs):

是 floating point operations 的缩写(注意 s 小写),可以用来衡量算法/模型的复杂度,这关系到算法速度,大模型的单位通常为 G,小模型单位通常为 M
通常只考虑乘加操作(Multi-Adds)的数量,而且只考虑 CONV 和 FC 等参数层的计算量,忽略 BN 和PReLU 等等。一般情况,CONV 和 FC 层也会 忽略仅纯加操作 的计算量,如 bias 偏置加和 shotcut 残差加等,目前技术有 BN 的 CNN 可以不加 bias

2、计算公式

 

二、MobileNetV1: Efficient Convolutional Neural Networks for Mobile Vision Applications

1、能够减少参数数量和计算量的原理

 

2、MobileNetV1 中引入的两个超参数

 

3、标准卷积和深度可分离卷积的区别

三、MobileNetV2:Inverted Residuals and Linear Bottlenecks

1、主要改进点

 

2、和 MobileNetV1 的区别

 在这里插入图片描述

3、和 ResNet 的区别

在这里插入图片描述

   

转载 https://blog.csdn.net/mzpmzk/article/details/82976871

 

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
MobileNet V2是一种轻量级的卷积神经网络模型,主要用于移动设备和嵌入式系统上的图像分类和目标检测任务。其原理包括以下几个方面: 1. Depthwise Separable Convolution:在MobileNet V2中,卷积操作采用Depthwise Separable Convolution,即深度可分离卷积。这种卷积分离了标准卷积中的空间卷积和通道卷积,通过两次卷积操作分别对输入进行空间上的卷积和通道上的卷积。这种卷积方式极大地减少了计算量和参数量,提高了模型的效率。 2. Inverted Residuals:MobileNet V2中引入了Inverted Residuals的概念。它是一种新的模块结构,由一个1x1卷积、一个Depthwise Separable Convolution和一个1x1卷积组成。这种结构可以在保持高效性的同时提高模型的准确率。 3. Linear Bottlenecks:MobileNet V2中使用Linear Bottlenecks来替代标准的瓶颈结构。Linear Bottlenecks是由一个1x1卷积、一个Depthwise Separable Convolution和一个1x1卷积组成的新结构,它可以更好地利用网络的表示能力,并且提高了模型的准确性。 4. Shortcut Connections:MobileNet V2引入了Shortcut Connections来提高模型的训练效果。Shortcut Connections是一种跳过层结构,它可以将前一层的输出直接连接到后一层的输入上,从而避免了信息的丢失和梯度消失问题。 5. Sequeeze-and-Excitation:MobileNet V2中引入了Squeeze-and-Excitation模块来增强模型的表达能力。这种模块可以自适应地增强有用的特征,从而提高模型的准确率。Squeeze-and-Excitation模块由一个全局平均池化层、一个全连接层和一个sigmoid函数组成。 总的来说,MobileNet V2是一种高效、准确的卷积神经网络模型,它通过Depthwise Separable Convolution、Inverted Residuals、Linear Bottlenecks、Shortcut Connections和Sequeeze-and-Excitation等技术手段,实现了高效、准确的图像分类和目标检测任务。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值