论文阅读：MobileNetV2: Inverted Residuals and Linear Bottlenecks（MobileNetV2）

最新推荐文章于 2022-05-09 16:15:06 发布
最新推荐文章于 2022-05-09 16:15:06 发布
阅读量613 收藏
点赞数
分类专栏： 语义分割文献笔记 文章标签： 人工智能 深度学习 卷积
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gyyu32g/article/details/104816681
版权
本文详细介绍了MobileNetV2的创新结构，包括Linear Bottlenecks和Inverted residual blocks，旨在解决MobileNetV1的准确率问题和计算资源消耗。通过线性输出和通道调整，提升了轻量级网络的性能，适用于移动设备。实验结果显示，MobileNetV2在保持高效的同时，提高了模型准确性。
摘要由CSDN通过智能技术生成

文章目录

1 摘要

本文基于MobileNetV1（戳这可以先了解一下MobileNetV1）的缺陷提出了MobileNetV2结构，并且详尽地分析介绍了设计轻量网络中的一些方法。参考ResNet的跳跃连接，作者提出Linear Bottlenecks和Inverted residuals模块去对网络进行优化，使得网络变得更快。

2 存在问题

① 目前，很多达到最好效果的网络都需以消耗大量的计算资源为代价的，并不适用于嵌入式移动设备。

② MobileNetV1虽然轻盈，但是其准确率表现不大如意，原因是单纯地使用卷积层进行堆叠，没有引入类似于跳跃连接的结构，所以没有充分利用图像的信息。

③ 在实际使用中，发现深度可分离卷积的某些卷积核参数为0，也就是在学习过程中导致卷积核“失效了”。

3 亮点

3.1 Linear Bottlenecks

为了解决学习过程中卷积核参数变0的问题，作者进行了分析，认为是由于Dwise的浅层输出接ReLU6（代表最大的激活值为6）容易使得卷积核参数为0，损害了信息（关于ReLU，很多文章指出过，在某些情况下会损失精度）。作者给出了如下图：

最低0.47元/天 解锁文章
旋涡小林
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
MobileNetV2：Inverted Residuals and Linear Bottlenecks
just
12-13 2052
①本文提出了一种新的移动端架构MobileNet V2，在当前移动端模型中最优；
MobileNetV2: Inverted Residuals and Linear Bottlenecks
12-03
Abstract In this paper we describe a new mobile architecture, MobileNetV2, that improves the state of the art perfor- mance of mobile models on multiple tasks and bench- marks as well as across a spectrum of different model sizes. We also describe efficient ways of applying these mobile models to object detection in a novel framework we call SSDLite. Additionally, we demonstrate how to build mobile semantic segmentation models through a reduced form of DeepLabv3 which we call Mobile DeepLabv3. is based on an inverted residual structure where the shortcut connections are between the thin bottle- neck layers. The intermediate expansion layer uses lightweight depthwise convolutions to filter features as a source of non-linearity. Additionally, we find that it is important to remove non-linearities in the narrow layers in order to maintain representational power. We demon- strate that this improves performance and provide an in- tuition that led to this design. Finally, our approach allows decoupling of the in- put/output domains from the expressiveness of the trans- formation, which provides a convenient framework for further analysis. We measure our performance on ImageNet [1] classification, COCO object detection [2], VOC image segmentation [3]. We evaluate the trade-offs between accuracy, and number of operations measured by multiply-adds (MAdd), as well as actual latency, and the number of parameters.
MobileNetV2: Inverted Residuals and Linear Bottlenecks(MobileNetV2)-论文阅读笔记
weixin_43749999的博客
05-09 2501
MobileNetV2: Inverted Residuals and Linear Bottlenecks MobileNetV2论文阅读笔记 //2022.5.8下午12:35开始阅读 论文地址 MobileNetV2: Inverted Residuals and Linear Bottlenecks | IEEE Conference Publication | IEEE Xplore 论文目的 提出了一种新的移动端的网络架构模型，MobileNetV2网络。然后，作者还描述
MobilenetV2学习笔记 --- MobileNetV2: Inverted Residuals and Linear Bottlenecks
梦坠凡尘
04-12 892
论文：https://arxiv.org/abs/1801.04381 代码：https://github.com/tonylins/pytorch-mobilenet-v2 此外给出MobilenetV1论文链接：https://arxiv.org/abs/1704.04861 没有看过MobilenetV1的建议先去看看。 MobilenetV1 利用深度可分离卷积代替标准卷积，大大减少了模型...
MobileNetV2: Inverted Residuals and Linear Bottlenecks（2018）论文综述
qq_42575422的博客
06-12 675
提问： 为什么要做这个研究（理论走向和目前缺陷） ? 残差出来了，考虑能不能结合残差做一种准确率高，又能应用到计算资源有限的移动设备上。 他们怎么做这个研究 （方法，尤其是与之前不同之处） ? 改了传统的残差块，提出一种倒置残差块的新结构，新结构中中利用了瓶颈层，且瓶颈层之后不用relu激活以防丢失有用信息。也利用了在mobileNet v1中所用的深度可分离卷积。也不像传统的残差块在块里面降维...
yolo-基于caffe的mobilenetv2+yolov3的实现-达到实时检测-附完整源码+教程.zip
最新发布
01-26
它采用了Inverted Residual Blocks（反向残差块）和Linear Bottlenecks等创新设计，实现了较高的计算效率和准确率之间的平衡。在目标检测任务中，MobileNetV2可以作为特征提取器，与YOLO的检测头部结合，形成一个轻...
MobileNet-v2-caffe：用于caffe的MobileNet-v2实验网络描述
02-02
开发者可以通过阅读代码来理解如何在Caffe中构建和训练MobileNet-v2模型，同时也可以直接使用预训练模型进行自己的应用开发。 在实际应用中，MobileNet-v2-caffe可以用于各种计算机视觉任务，例如图像分类、目标...
MobileNetv2:图像分类，DogVsCat，pytorch
04-13
MobileNetV2是一种轻量级的深度学习模型，主要用于图像分类任务。在本案例中，我们关注的是如何使用PyTorch框架实现MobileNetV2来区分狗（Dogs）和猫（Cats），即"DogVsCat"问题。PyTorch是一个流行的开源机器学习库...
Mobilenetv1v2v3论文.zip
08-09
MobileNetV2（MobileNet Version 2）在V1的基础上引入了倒残差块（Inverted Residual Blocks）和线性瓶颈层（Linear Bottlenecks）。倒残差块改变了传统残差结构中的顺序，使得特征先通过一个扩张卷积（Expansion ...
MobileNetV2 ：Inverted Residuals and Linear Bottlenecks
女王の专属领地
04-22 8897
论文链接 | https://arxiv.org/abs/1704.04861论文源码 | https://github.com/Randl/MobileNet2-pytorch/摘要：介绍了一种新的移动端架构——MobileNetV2，其在多任务和基准以及不同模型大小的范围上进一步刷新了移动端模型的当前最佳性能。介绍了如何通过全新框架 SSDLite 将这些模型高效应用于目标检测。展示了通过简化...
论文阅读——MobileNetV2: Inverted Residuals and Linear Bottlenecks
qq_37151108的博客
05-19 1527
继续MobileNetv2. 改进：Inverted Residual connections & Linear Bottleneck 摘要： 在轻量级的MobileNetv1提出后，本文又将轻量级的思想应用于分割网络，精简了DeepLabv3用于分割。 
主要创新点在inverted residuals和linear bottleneck的提出。在网络瓶颈部分增加inverted residuals连接以及移除网络瓶颈部分的非线性，保证该部分的信息表达能力。最终在ImageNet分类、COCO物体
轻量化网络（二）MobileNetV2: Inverted Residuals and Linear Bottlenecks
shentu7的博客
04-12 521
论文链接 Pytorch实现 Tensorflow实现 Mobilenet V2是谷歌在Mobilenet V1上的进一步改进，第一版参考文章，是Mobilenet系列的第二篇。该文章以深度可分离卷积(Depthwise Separable Convolutions)为基础提出了Inverted Residuals and Linear Bottlenecks，深度可分离卷积在许多神经网络中有很大...
【轻量级网络】MobileNetV2_ Inverted Residuals and Linear Bottlenecks
筱
08-16 323
paper：MobileNetV2 code：caffe pytorch 文章目录1、Preliminaries, discussion and intuition1.1、Depthwise Separable Convolutions1.2、Linear Bottlenecks Mobilenetv2核心模块是：inverted residual structure. 1、Prelimin...
MobileNetV2:Inverted Residuals and Linear BottleNecks
abrams90的专栏
07-09 3068
摘要： 本文我们描述了一种新的mobile结构称为MobileNetV2，改进了模型在多个tasks与benchmarks以及不同大小模型的SOTA。我们还描述了一个将这些mobile模型应用在目标检测中的新框架，称为SSDLite。此外，我们还介绍了如何通过改进DeepLabv3构建我们称为DeepLabv3的mobile语义分割模型。网络基于反转残差结构，shortcut位于thin ...
mobilenetv2: inverted residuals and linear bottlenecks
06-06
MobileNetV2是一种轻量级的神经网络模型，其中使用了“倒置残差”和“线性瓶颈”的技术。倒置残差是指在每个卷积层之前添加一个轻量级的残差块，以减少计算量和参数数量。线性瓶颈是指在每个残差块中使用一个线性激活函数，以避免非线性激活函数对计算速度的影响。这些技术使得MobileNetV2在保持高精度的同时，具有更快的计算速度和更小的模型大小。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值