大白话解读2020CVPR-GhostNet论文以及相关代码: 超越MobileNetV3的轻量级网络

最新推荐文章于 2024-03-25 09:51:29 发布
最新推荐文章于 2024-03-25 09:51:29 发布
阅读量4.2k 收藏 49
点赞数 7
分类专栏： pyTorch 深度学习 算法 文章标签： 神经网络 pytorch tensorflow 深度学习 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qidailiming1994/article/details/104589749
版权

大白话解读2020CVPR-GhostNet论文以及相关代码: 超越MobileNetV3的轻量级网络

华为源码
源码
为了减少神经网络的计算消耗，论文提出Ghost模块来构建高效的网络结果。该模块将原始的卷积层分成两部分，先使用更少的卷积核来生成少量内在特征图，然后通过简单的线性变化操作来进一步高效地生成ghost特征图。从实验来看，对比其它模型，GhostNet的压缩效果最好，且准确率保持也很不错，论文思想十分值得参考与学习。

论文主要有两个贡献：
（1）提出能用更少参数提取更多特征的Ghost模块，首先使用输出很少的原始卷积操作(非卷积层操作)进行输出，再对输出使用一系列简单的线性操作来生成更多的特征。这样，不用改变其输出的特征图，Ghost模块的整体的参数量和计算量就已经降低了
（2）基于Ghost模块提出GhostNet，将原始的卷积层替换为Ghost模块

为什么有这个想法？

最低0.47元/天 解锁文章
无人不智能，机器不学习
关注
  • 7
    点赞
  • 踩
  • 49
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【过期版本】轻量级C++神经网络应用库CreativeLus [v1.0.2]@2020-01
01-30
说明：该版本已下架，请获取最新更新！！！ 使用详情，查看：https://blog.csdn.net/carlclouder/article/details/104110691。 CreativeLus库（又名“创意逻辑单元”）简称CL，是基于反馈式神经网络（BP网络）模型理论基础开发的C++神经网络库。希望在尽可能的丰富功能前提下，让使用者付出极低的代价。尤其是学生、研究人员或小型应用，在机器学习，深度学习，神经网络应用等领域能有一种快速的应用可选方案。
2020轻量级目标检测网络（开源）总结
USTC暖暖的博客
03-02 1万+
1.曾叱诧风云的YOLOv3 在过去的几年里，YOLOv3可以说是大红大紫，做目标检测的同学应该都使用过该网络，在速度和精度上达到了完美的协调，不需要任何的依赖包，全部使用C++实现，看完之后对YOLOv3的作者Joseph Redmon真是顶礼膜拜，真的是大佬，不过刚刚作者宣布退出CV界，忍受不了AI算法用于军事和隐私窥探，对此表示深感惋惜。下面给出一些YOLOv3使用链接： paper:h...
yolov3-channel-and-layer-pruning: 优化YOLOv3模型的新途径
最新发布
gitblog_00025的博客
03-25 327
yolov3-channel-and-layer-pruning: 优化YOLOv3模型的新途径 项目地址:https://gitcode.com/tanluren/yolov3-channel-and-layer-pruning 项目简介 yolov3-channel-and-layer-pruning 是一个致力于优化YOLO（You Only Look Once）对象检测模型的开源项目。YO...
GhostNet : 轻量级网络模型，性能超越MobileNetV3(CVRP2020, 华为诺亚)
3D视觉工坊
02-28 3202
点击上方“3D视觉工坊”，选择“星标”干货第一时间送达原文链接：https://arxiv.org/pdf/1911.11907.pdf代码：https://github.com/hua...
论文阅读 | Ghostnet网络
jmu201521121021的博客
03-09 666
简介 paper: https://arxiv.org/abs/1911.11907 github：https://github.com/huawei-noah/ghostnet Ghostnet（CVPR2020）是华为提出的一种轻量级网络，结构类似mobilenetV3,具有速度快、精度较高特点。论文中主要贡献是：提出Ghost Module。 Ghost Module 如图二所示，...
GhostNet 幽灵网络结构,keras 实现
skyfengye的博客
03-23 2929
由于疫情在家，基本没有什么事情干。在看看论文在CVPR2020中我看到了一篇比较有趣的论文，大家在跑CNN网络的时候，如果你去看一下不同通道的特征图，你会发现有一些特征图很类似，用肉眼看大家也不会觉得有什么区别。当时对于我们这些小菜鸟来说，这也没有什么问题，只要我们要的结果出来就好，准确度上去就可以了。我们也不会去在意这些事，这个时候我们就和大牛体现出差距了，大牛观察到这些问题，想到这些什么原因，...
OpenAI：GPT 最佳实践（大白话编译解读版）-未来力场-2023
01-07
OpenAI：GPT 最佳实践（大白话编译解读版）-未来力场-2023 OpenAI 提供了一份关于 GPT 最佳实践的指南，旨在帮助用户从 GPT 中获得更好的输出结果。这份指南总结了六个核心策略，旨在提高 GPT 的输出质量。这些策略...
大白话EM算法--从此爱上EM迭代
06-19
本系列讲解EM及GMM相关知识点，让你对ＥＭ整理流程有清晰的认识，从而应用到工作和面试中。 目录如下： 1.1EM算法之回顾最大似然估计1.2EM算法之回顾贝叶斯估计1.3EM算法之回顾K-means算法1.4EM算法之算法目标引入...
大白话神经网络和BP算法--从此爱上神经网络
06-19
1.1神经网络来源1.2了解感知器认知过程1.3感知器代码实现逻辑或和与1.4感知器网络和S型神经元及激活函数1.5神经网络之结构详解1.6.1神经网络BP算法前置知识1.6.2神经网络BP算法W7过程演练1.6.3神经网络BP算法W1过程...
大白话循环神经网络RNN-从此爱上RNN
06-20
本系列讲解循环神经网络RNN和LSTM的所有知识点，学完本系列课程将对RNN和LSTM的理论知识有清晰的认识，同时能够将理论结合实践应用到工作中。
大白话XGBoost算法--彻底了解XGBoost
06-21
本文通过XGBoost的算法思想到XGBoost的目标函数转换，通过泰勒公式和叶节点的角度对XGBoost目标函数进行转换，然后通过树结构的生成策略去生成每一颗模型树，最后讲解于GBDT的算法区别以及相关参数。 目录如下： ...
【论文复现】GhostNet_GhostModule（2020）
qq_38253797的博客
07-05 5282
目录前言一、背景二、Ghost Module三、Ghost Bottleneck四、GhostNetReference 前言 论文地址： https://arxiv.org/abs/1911.11907. 源码（pytorch）：https://github.com/huawei-noah/CV-Backbones/tree/master/ghostnet_pytorch. 贡献： 1、提出了新型的轻量化网络模块 Ghost Module (GhostConv 和 Ghost bottleneck) 2、.
论文笔记：GhostNet: More Features from Cheap Operations
爱学习爱运动的专栏
04-21 567
论文：GhostNet: More Features from Cheap Operations（华为诺亚团队）
当代研究生有多害怕开组会？
阿木寺的博客
06-08 779
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达本文转载自：硕博关注组会，每个研究生的噩梦？相信下面这几位同学的经历或心路历程你一定不陌生你一定也有过这些想法！如果您也...
【魔改YOLOv5-6.x（下）】YOLOv5s+Ghostconv+BiFPN+CA
热门推荐
weixin_43799388的博客
03-20 3万+
文章目录前言模型组合Ghost+BiFPNGhost+CAGhost+BiFPN+CA实验记录结果分析 前言 【魔改YOLOv5-6.x（上）】：结合轻量化网络Shufflenetv2、Mobilenetv3和Ghostnet 【魔改YOLOv5-6.x（中）】：加入ACON激活函数、CBAM和CA注意力机制、加权双向特征金字塔BiFPN 本文使用的YOLOv5版本为v6.1，对YOLOv5-6.x网络结构还不熟悉的同学，可以移步至：【YOLOv5-6.x】网络模型&源码解析 训练设置： $ pyt
MoGA_A（B、C）代码理解
weixin_40970506的博客
02-23 648
class MoGaA(nn.Module): def __init__(self, n_class=1000, input_size=224): super(MoGaA, self).__init__() assert input_size % 32 == 0 # 输入数据要是32的整数倍 # 参数配置 mb_config...
DeepLabV3+：搭建Mobilenetv2网络
m0_62919535的博客
01-30 1981
Mobilenetv2网络设计基于Mobilenetv1，它保持了其简单性，不需要任何特殊的操作，同时显著提高了其准确性，实现了移动应用的多图像分类和检测任务的最先进水平。接下来我们将使用pytorch实现它。
Tensorflow与keras学习 (11)——GhostNet分析与复现
AI知识搬运工
12-03 716
GhostNet分析与复现 1，原理 首先复杂神经网络可以被精简的原因是什么？Resnet卷积层特征图可视化结果显示，特征存在（冗余）相似特征。 对于相似特征卷积核，在允许网络有一定范围的精度损失的情况我们可以直接对网络进行裁剪，去掉相似度较高的卷积核。在GhostNet中的思想是想在保留足够丰富的特征的情况下依然较高的执行效率。那么，问题来了，用什么替代这种相似特征提取核。就是如何用较少的参数获取更多的特征。这里的线性部分可直接使用DepthwiseConv就是忽略通道，只卷积一层（同Mobil
GhostNet论文笔记及代码分析
码农ZZK的博客
02-26 2822
综述 为了解决移动端CNN部署，我们开发出一种新型的网络结构GhostNet 我们通过一系列简单的线性变换来生成所谓的Ghost 特征图 这种ghost特征图能揭示隐藏的信息 通过两种架构ghost module 和 ghost bottleneck可以构造出我们的轻量级网络，表现也超越了Mobilenet 介绍 近年来有许多减小模型大小方法提出，其中一系列方法是对丢弃不重要的参数丢弃，然而这种思...
本科生学深度学习-大白话说清楚cnn
11-05
卷积神经网络（CNN）是一种常用于图像处理和模式识别的深度学习模型。它的设计灵感来自于生物学中视觉皮层的神经元结构。为了用通俗的语言解释CNN，我们可以用以下方式来理解它： 假设你要识别一张猫的图片。首先，...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值