MobileNet V3 网络结构的原理与 Tensorflow2.0 实现

最新推荐文章于 2023-03-26 15:57:15 发布
最新推荐文章于 2023-03-26 15:57:15 发布
阅读量4.5k 收藏 44
点赞数 5
分类专栏： Tensorflow 2.0 深度学习 文章标签： 算法 深度学习 tensorflow python 卷积
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_36758914/article/details/106934527
版权

文章目录

介绍

MobileNet V3 是对 MobileNet V2 的改进，同样是一个轻量级卷积神经网络。为了适用于对资源不同要求的情况，MobileNet V3 提供了两个版本，分别为 MobileNet V3 Large 以及 MobileNet V3 Small。

MobileNet V3 的创新

1、SE模块的加入

仿照 MnasNet，MobileNet V3 在 MobileNet V2 中的 BottleNeck 模块中的深度级卷积操作后面添加了 SE 模块。如下图所示：
在这里插入图片描述
在这里插入图片描述

2、修改尾部结构

MobileNet V2 中，在 GlobalAveragePooling 操作之前，为了提高特征图的维度我们使用了一个 1x1 的卷积层，但是这必定会带来了一定的计算量，所以在 MobileNet V3 中作者将其放在 GlobalAveragePooling 的后面，首先利用 GlobalAveragePooling 将特征图大小由 7x7 降到了 1x1，然后再利用 1x1 提高维度，这样就减少了很多计算量。另外，为了进一步地降低计算量，作者直接去掉了前面纺锤型卷积的 3x3 以及 1x1 卷积，进一步减少了计算量，就变成了如下图第二行所示的结构。
在这里插入图片描述

3、修改通道数量

修改网络开始时第一个卷积核的数量，MobileNet V2 中使用了 32 个卷积核，在 MobileNet V3 中，作者仅使用了 16 个卷积核就达到了相同的精度。

4、改变激活函数

SE 模块中

MobileNet V3 中将原来 SE 模块中的 sigmoid 激活函数换成了 h-sigmoid 激活函数，其表达式如下：
f ( x ) = m a x ( 0 , m i n ( 1 , x + 1 2 ) ) f(x)=max(0, min(1, \frac{x+1}{2})) f(x)=max(0,min(1,2x+1​))

BottleNeck 模块中

MobileNet V3 中将原来 BottleNeck 模块中的 ReLU6 激活函数换成了 h-swish 激活函数，其表达式如下：
f ( x ) = x R e L U 6 ( x + 3 ) 6 f(x)=x\frac{ReLU6(x+3)}{6} f(x)=x6ReLU6(x+3)​

MobileNet V3 网络结构

1、MobileNet V3 Large

在这里插入图片描述

2、MobileNet V3 Small

在这里插入图片描述
【注】以上两图中，exp size 表示在 BottleNeck 模块中增加后的通道数；#out 表示输出的通道数；SE 表示是否在这个 BottleNeck 模块中使用 SE 模块；NL 表示使用的激活函数；s 表示步长。

实验结果

ImageNet 分类实验结果

在这里插入图片描述

在 SSDLite 目标检测算法中精度

在这里插入图片描述

代码实现

import  tensorflow as tf

def h_sigmoid(x):
    
    output = tf.keras.layers.Activation('hard_sigmoid')(x)
    
    return output

def h_swish(x):
    
    output = x*h_sigmoid(x)
    
    return output

def Squeeze_excitation_layer(x):
    
    inputs = x
    squeeze = inputs.shape[-1]/2
    excitation = inputs.shape[-1]
    x = tf.keras.layers.GlobalAveragePooling2D()(x)
    x = tf.keras.layers.Dense(squeeze)(x)
    x = tf.keras.layers.Activation('relu')(x)
    x = tf.keras.layers.Dense(excitation)(x)
    x = h_sigmoid(x)
    x = tf.keras.layers.Reshape((1, 1, excitation))(x)
    x = inputs * x

    return x

def BottleNeck(inputs, exp_size, out_size, kernel_size, strides, is_se_existing, activation):
    x = tf.keras.layers.Conv2D(filters=exp_size,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same")(inputs)
    x = tf.keras.layers.BatchNormalization()(x)
    if activation == "HS":
        x = h_swish(x)
    elif activation == "RE":
        x = tf.keras.layers.Activation(tf.nn.relu6)(x)
    x = tf.keras.layers.DepthwiseConv2D(kernel_size=kernel_size,
                                        strides=strides,
                                        padding="same")(x)
    x = tf.keras.layers.BatchNormalization()(x)
    if activation == "HS":
        x = h_swish(x)
    elif activation == "RE":
        x = tf.keras.layers.Activation(tf.nn.relu6)(x)
    if is_se_existing:
        x = Squeeze_excitation_layer(x)
    x = tf.keras.layers.Conv2D(filters=out_size,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same")(x)
    x = tf.keras.layers.BatchNormalization()(x)
    x = tf.keras.layers.Activation(tf.keras.activations.linear)(x)
    if strides == 1 and inputs.shape[-1] == out_size:
        x = tf.keras.layers.add([x, inputs])
        
    return x

def MobileNetV3Large(inputs, classes=1000):

    x = tf.keras.layers.Conv2D(filters=16,
                               kernel_size=(3, 3),
                               strides=2,
                               padding="same")(inputs)
    x = tf.keras.layers.BatchNormalization()(x)
    x = h_swish(x)

    x = BottleNeck(x, exp_size=16, out_size=16, kernel_size=3, strides=1, is_se_existing=False, activation="RE")
    x = BottleNeck(x, exp_size=64, out_size=24, kernel_size=3, strides=2, is_se_existing=False, activation="RE")
    x = BottleNeck(x, exp_size=72, out_size=24, kernel_size=3, strides=1, is_se_existing=False, activation="RE")
    x = BottleNeck(x, exp_size=72, out_size=40, kernel_size=5, strides=2, is_se_existing=True, activation="RE")
    x = BottleNeck(x, exp_size=120, out_size=40, kernel_size=5, strides=1, is_se_existing=True, activation="RE")
    x = BottleNeck(x, exp_size=120, out_size=40, kernel_size=5, strides=1, is_se_existing=True, activation="RE")
    x = BottleNeck(x, exp_size=240, out_size=80, kernel_size=3, strides=2, is_se_existing=False, activation="HS")
    x = BottleNeck(x, exp_size=200, out_size=80, kernel_size=3, strides=1, is_se_existing=False, activation="HS")
    x = BottleNeck(x, exp_size=184, out_size=80, kernel_size=3, strides=1, is_se_existing=False, activation="HS")
    x = BottleNeck(x, exp_size=184, out_size=80, kernel_size=3, strides=1, is_se_existing=False, activation="HS")
    x = BottleNeck(x, exp_size=480, out_size=112, kernel_size=3, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=672, out_size=112, kernel_size=3, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=672, out_size=160, kernel_size=5, strides=2, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=960, out_size=160, kernel_size=5, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=960, out_size=160, kernel_size=5, strides=1, is_se_existing=True, activation="HS")

    x = tf.keras.layers.Conv2D(filters=960,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same")(x)
    x = tf.keras.layers.BatchNormalization()(x)
    x = h_swish(x)
    x = tf.keras.layers.AveragePooling2D(pool_size=(7, 7), strides=1)(x)
    x = tf.keras.layers.Conv2D(filters=1280,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same")(x)
    x = h_swish(x)
    x = tf.keras.layers.Conv2D(filters=classes,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same",
                               activation=tf.keras.activations.softmax)(x)

    return x

def MobileNetV3Small(inputs, classes=1000):
    
    x = tf.keras.layers.Conv2D(filters=16,
                               kernel_size=(3, 3),
                               strides=2,
                               padding="same")(inputs)
    x = tf.keras.layers.BatchNormalization()(x)
    x = h_swish(x)

    x = BottleNeck(x, exp_size=16, out_size=16, kernel_size=3, strides=2, is_se_existing=True, activation="RE")
    x = BottleNeck(x, exp_size=72, out_size=24, kernel_size=3, strides=2, is_se_existing=False, activation="RE")
    x = BottleNeck(x, exp_size=88, out_size=24, kernel_size=3, strides=1, is_se_existing=False, activation="RE")
    x = BottleNeck(x, exp_size=96, out_size=40, kernel_size=5, strides=2, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=240, out_size=40, kernel_size=5, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=240, out_size=40, kernel_size=5, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=120, out_size=48, kernel_size=5, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=144, out_size=48, kernel_size=5, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=288, out_size=96, kernel_size=5, strides=2, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=576, out_size=96, kernel_size=5, strides=1, is_se_existing=True, activation="HS")
    x = BottleNeck(x, exp_size=576, out_size=96, kernel_size=5, strides=1, is_se_existing=True, activation="HS")

    x = tf.keras.layers.Conv2D(filters=576,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same")(x)
    x = tf.keras.layers.BatchNormalization()(x)
    x = h_swish(x)

    x = tf.keras.layers.AveragePooling2D(pool_size=(7, 7), strides=1)(x)
    x = tf.keras.layers.Conv2D(filters=1280,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same")(x)
    x = h_swish(x)
    x = tf.keras.layers.Conv2D(filters=classes,
                               kernel_size=(1, 1),
                               strides=1,
                               padding="same",
                               activation=tf.keras.activations.softmax)(x)

    return x

inputs = np.zeros((1, 224, 224, 3), np.float32)
output_large = MobileNetV3Large(inputs)
output_small = MobileNetV3Small(inputs)

参考资料

1、mobilenet系列之又一新成员—mobilenet-v3
2、【论文学习】轻量级网络——MobileNetV3终于来了（含开源代码）

cofisher
关注
  • 5
    点赞
  • 踩
  • 44
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
专栏目录
YOLO-V3-Tensorflow2.0-Face-Detect-via-Wider-Face:使用 TensorFlow2.0 训练YOLOV3模型 和Wider Face 数据集，进行人脸检测
05-04
TensorFlow2.x-YOLOv3 YOLOv3的最小张量流实现，并支持训练，推断和评估。 安装 安装要求并下载预训练的砝码 $ pip3 install -r ./docs/requirements.txt $ wget https://pjreddie.com/media/files/yolov3.weights 快速开始 在这一部分中，我们将使用预训练的权重对图像和视频进行预测。 $ python image_demo.py $ python video_demo.py # if use camera, set video_path = 0 火车风琴师 下载数据集并制作数据。 $ git clone https://github.com/YunYang1994/yymnist.git $ python yymnist/make_data.py --images_num 1
轻量化神经网络之mobilenet v2 v3 ONNX 文件
05-10
轻量化神经网络之mobilenet v2 v3 ONNX 文件 用来学习网络结构
基于TensorFlow的YOLO v3目标检测算法设计源码
最新发布
04-06
本项目是一个基于TensorFlow实现的YOLO v3目标检测算法设计，包含27个文件，主要文件类型为Python源代码。该算法能够进行fine-tuning，以适应不同的检测需求。系统设计简洁高效，适合应用于视频监控、图像处理等场景。
tensorflow（python）实现 YOLO v3目标检测算法
03-14
采用tensorflow（python）实现 YOLO v3目标检测算法，可对图片，包含图片的文件夹、摄像头和视频进行对如下20个类物体的检测。
Python-MobileNetV3架构的非官方TensorFlow实现
08-11
MobileNetV3架构的非官方TensorFlow实现
【神经网络】(16) MobileNetV3 代码复现，网络解析，附Tensorflow完整代码
博观而约取，厚积而薄发
03-14 9390
各位同学好，今天和大家分享一下如何使用 Tensorflow 构建 MobileNetV3 轻量化网络模型。 之前我介绍了许多种类的卷积神经网络模型，感兴趣的可以看一下：https://blog.csdn.net/dgvv4/category_11517910.html MobileNetV3 ...
DenseNet实战：tensorflow2.X版本，DenseNet121图像分类任务（大数据集）
AI浩
01-20 4216
摘要 本例提取了猫狗大战数据集中的部分数据做数据集，演示tensorflow2.0以上的版本如何使用Keras实现图像分类，分类的模型使用DenseNet121。本文实现的算法有一下几个特点： 1、自定义了图片加载方式，更加灵活高效，节省内存 2、加载模型的预训练权重，训练时间更短。 3、数据增强选用albumentations。 训练 第一步 导入需要的数据包，设置全局参数 import numpy as np from tensorflow.keras.optimizers import Adam im
【轻量型卷积网络】MobileNet系列：MobileNet V3网络解析
Danger的博客
03-26 4547
【轻量型卷积网络】MobileNet系列：MobileNet V3网络解析
深度学习之图像分类（十二）--MobileNetV3 网络结构
热门推荐
木卯_THU的博客
09-03 2万+
深度学习之图像分类（十二）MobileNetV3 网络结构 目录深度学习之图像分类（十二）MobileNetV3 网络结构1. 前言2. 更新 BlocK (bneck)3. 重新设计激活函数4. 重新设计耗时层结构5. MobileNetV3 网络结构6. NAS7. 代码 本节学习 MobileNetV3 网络结构。学习视频源于 Bilibili。 1. 前言 MobileNetV3 是由 google 团队在 2019 年提出的，其原始论文为 Searching for MobileNetV3。Mo
Tensorflow实现mobilenet-v3
jkjj2015的博客
11-29 1979
# -*- coding: utf-8 -*- """Implementation of Mobilenet V3 by tf.slim. Architecture: https://arxiv.org/pdf/1905.02244.pdf """ import tensorflow as tf import tensorflow.contrib.slim as slim def relu6(...
MobilenetV3-Tensorflow:带有tf.layers的tensorflow中的mobilenet v3的多GPU实现
03-15
mobilenetv3 这是MobileNetV3架构的多GPU Tensorflow实现，如论文。 对于一些更改。 论文V1的实现请参见该存储库中的以获得详细信息。 在tf1.3.0，tf1.10.0，python3.5上进行了测试。 mobilenetv3大 mobilenetv3小 用法 from mobilenet_v3 import mobilenet_v3_large, mobilenetv3_small model, end_points = mobilenet_v3_large(input, num_classes, multiplier=1.0, is_training=True, reuse=None) model, end_points = mobilenet_v3_small(input, num_classes, multiplier=1.0, is_trai
ssd_mobilenet_v3_large_coco_2020_01_14
12-09
提供tensorflow object_detection api 调用ssd_mobilenet_v3_large_coco_2020_01_14预训练模型
深度学习网络模型 MobileNet系列v1 ~ v3网络详解以及pytorch代码复现
10-31
深度学习网络模型 MobileNet系列v1 ~ v3网络详解以及pytorch代码复现 1、DW卷积与普通卷积计算量对比 DW与PW计算量 普通卷积计算量 计算量对比 2、MobileNet V1 MobileNet V1网络结构 MobileNet V1网络结构代码 3、MobileNet V2 倒残差结构模块 倒残差模块代码 MobileNet V2详细网络结构 MobileNet V2网络结构代码 4、MobileNet V3 创新点 MobileNet V3详细网络结构 注意力机制SE模块代码 InvertedResidual模块代码 整体代码
keras实现yoloV3网络结构
12-21
目录yoloV3网络1.DBL2. resblock_body3. Darknent-534. y1、y2和y3 yoloV3网络 下面为yoloV3网络图： 为了方便理解，放了来自木盏的yoloV3的网络结构图 DBL： 即代码中的Darknetconv2d_BN_Leaky，是yolo_v3的基本组件。就是卷积+BN+Leaky relu。 resn：n代表数字，有res1，res2, … ,res8等等，表示这个res_block里含有多少个res_unit。 1.DBL 实现DBL： @wraps(Conv2D) # 设置DBL中卷积核参数 def DarknetConv2D(
tensorflow实现Inception v3代码
02-01
tensorflow实现Inception v3源代码，只有模型构建的代码，还没有训练和测试，不过套路都一样的。
tensorflow实现 YOLO v3目标检测算法.rar
03-02
tensorflow实现 YOLO v3目标检测算法.rartensorflow实现 YOLO v3目标检测算法.rartensorflow实现 YOLO v3目标检测算法.rartensorflow实现 YOLO v3目标检测算法.rartensorflow实现 YOLO v3目标检测算法.rartensorflow...
deeplab_v3：语义分段的Tensorflow实现DeepLab_V3 CNN
02-05
DeepLab_V3图像语义分割网络 语义分割DeepLab_V3 CNN的实现，如。 有关此实现的完整文档，请查看。 依存关系 Python 3.x 脾气暴躁的 Tensorflow 1.10.1 资料下载 评价 预训练模型。 将checkpoints文件夹放在./...
Tensorflow2.0 之开启 GPU 模式
cocofisher的博客
07-06 1万+
GPU 的使用以及与 CPU 的对比
用Tensorflow2.0实现Faster-RCNN的详细代码解析
cocofisher的博客
05-02 1万+
在这篇文章中，我们将使用 Tensorflow2.0 实现 Faster-RCNN 并对相关代码进行解释说明。
MobileNetV3Large tensorflow
08-25
MobileNetV3Large is a popular convolutional neural network architecture that is designed for mobile and embedded devices. It was introduced by Google in their paper titled "Searching for MobileNetV3" in 2019. MobileNetV3Large is an extension of the MobileNetV2 architecture, with improved performance and efficiency. In TensorFlow, you can use the MobileNetV3Large architecture by importing the pre-trained model from the TensorFlow Hub or implementing it from scratch using the TensorFlow API. Here's an example code snippet to load the pre-trained MobileNetV3Large model from TensorFlow Hub: ```python import tensorflow as tf import tensorflow_hub as hub # Load the MobileNetV3Large model from TensorFlow Hub module = hub.KerasLayer("https://tfhub.dev/google/imagenet/mobilenet_v3_large_100_224/feature_vector/5", trainable=False) # Create a model using MobileNetV3Large as the base model = tf.keras.Sequential([ module, tf.keras.layers.Dense(num_classes, activation='softmax') ]) # Compile and train the model model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy']) model.fit(train_dataset, validation_data=val_dataset, epochs=num_epochs) ``` Make sure you replace `num_classes`, `train_dataset`, `val_dataset`, and `num_epochs` with your own values specific to your task. Remember that MobileNetV3Large is a powerful architecture for image classification tasks, but it may need to be fine-tuned or adjusted depending on the specific requirements of your project.

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

cofisher

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值