论文阅读 | Ghostnet网络

最新推荐文章于 2024-04-27 14:57:37 发布

jmucvm

最新推荐文章于 2024-04-27 14:57:37 发布

阅读量669

点赞数 1

分类专栏：深度学习 Pytorch 轻量级网络

本文链接：https://blog.csdn.net/jmu201521121021/article/details/104761632

版权

34 篇文章 3 订阅

订阅专栏

3 篇文章 0 订阅

订阅专栏

2 篇文章 0 订阅

订阅专栏

paper: https://arxiv.org/abs/1911.11907
github：https://github.com/huawei-noah/ghostnet
Ghostnet（CVPR2020）是华为提出的一种轻量级网络，结构类似mobilenetV3,具有速度快、精度较高特点。论文中主要贡献是：提出Ghost Module。

如图二所示， Ghost module 结构很简洁。(a)是普通卷积，(b)是ghost module.
假设 $i n p u t$ 大小为： $in_c \times in_h \times in_w$ , $o u t p u t$ 大小为： $out_c \times out_h \times out_w$ ,
Ghost module将普通卷积拆解为三步执行,第一步先用 $k\times k$ 卷积核输出通道数为 $init\_channels$ 的feature maps, （ $init\_channels = ceil(\frac{out\_channels }{ s})$ ）， s代表将 $out\_channels$ 分为s组。第二，在第一步的feature_maps上进行depthwise convolution(线性变换)输出 $(s-1)\times init\_channels$ 通道的feature maps, 最后，将 $init\_channels$ 的feature maps和第二步输出的前 $out\_channels-init\_cahnnels)$ 个feature map concat一起。
Pytorch实现

在这里插入图片描述

由 $r_s$ 可看出，当depthwise convolution 的kernel size $d$ 和前面的卷积核大小差不多时， FLOP运算量是普通卷积 $\frac{1}{s}$
论文中把feature maps分为2组时精度损失较少。

在这里插入图片描述

在这里插入图片描述

在分类和检测任务上还是表现比较出色的。

关注

专栏目录