【第56篇】GhostNet:廉价操作得到更多的特征

已于 2022-11-25 06:46:51 修改
阅读量1.4k 收藏 6
点赞数 2
分类专栏： 图像分类 高质量人类CV论文翻译 文章标签： 深度学习 人工智能
于 2022-11-22 17:28:18 首次发布
本文为博主原创文章，未经博主允许不得转载。
本文链接：https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/127981705
版权
本文提出了一种名为Ghost模块的新方法，通过低成本运算生成更多特征图，以减少深度神经网络的参数数量和计算复杂度。Ghost模块在保持输出特征映射不变的情况下，降低了普通卷积层的需求，可用于构建轻量级的GhostNet。实验表明，GhostNet在ImageNet上的性能优于MobileNetV3，同时计算成本更低。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

摘要

论文链接：https://arxiv.org/pdf/1911.11907.pdf
在这里插入图片描述

由于内存和计算资源的限制，在嵌入式设备上部署卷积神经网络(CNNs)非常困难。特征映射的冗余性是成功的神经网络的一个重要特征，但在神经结构设计方面的研究很少。本文提出了一种新的Ghost模块，可以通过低成本操作生成更多的特征图。我们在一组内在特征映射的基础上，以较低的代价进行一系列线性变换，生成许多能充分揭示内在特征信息的Ghost特征映射。提出的Ghost模块可以作为即插即用组件来升级现有的卷积神经网络。Ghost瓶颈被设计成堆叠Ghost模块，这样就可以轻松建立轻量级的GhostNet。在基准测试上进行的实验表明，提出的Ghost模块是基线模型中卷积层的一个令人印象深刻的替代方案，我们的GhostNet在ImageNet ILSVRC-2012分类数据集上的计算成本与MobileNetV3相似，可以实现更高的识别性能(例如75.7%的top-1精度)。代码可从https://github.com/huawei-noah/ghostnet获得。

1． 简介

深度卷积神经网络在各种计算机视觉任务中表现出出色的性能，如图像识

了解本专栏 订阅专栏 解锁全文
GhostNet: More Features from Cheap Operations
qq_40107571的博客
10-31 448
GhostNet: More Features from Cheap Operations
轻量化模型系列--GhostNet：廉价操作生成更多特征
CV技术指南（微信公众号）
09-14 805
前言 由于内存和计算资源有限，在嵌入式设备上部署卷积神经网络 (CNN) 很困难。特征图中的冗余是那些成功的 CNN 的一个重要特征，但在神经架构设计中很少被研究。 论文提出了一种新颖的 Ghost 模块，可以从廉价操作中生成更多的特征图。提出的 Ghost 模块可以作为即插即用的组件来升级现有的卷积神经网络。堆叠Ghost Module建立了轻量级的 GhostNet。 GhostNet 可以实现比 MobileNetV3 更高的识别性能（例如 75.7% 的 top-1 准确率），并且在 Im..
【计算机视觉 | 图像模型】常见的计算机视觉 image model（CNNs & Transformers） 的介绍合集（三）
wzk4869的博客
09-14 763
【计算机视觉 | 图像模型】常见的计算机视觉 image model（CNNs & Transformers） 的介绍合集（三）
【论文复现】GhostNet_GhostModule（2020）
qq_38253797的博客
07-05 6305
目录前言一、背景二、Ghost Module三、Ghost Bottleneck四、GhostNetReference 前言 论文地址： https://arxiv.org/abs/1911.11907. 源码（pytorch）：https://github.com/huawei-noah/CV-Backbones/tree/master/ghostnet_pytorch. 贡献： 1、提出了新型的轻量化网络模块 Ghost Module (GhostConv 和 Ghost bottleneck) 2、.
大白话解读2020CVPR-GhostNet论文以及相关代码: 超越MobileNetV3的轻量级网络
期待黎明的博客
03-01 4381
大白话解读GhostNet论文以及相关代码: 超越MobileNetV3的轻量级网络 华为源码 源码 为了减少神经网络的计算消耗，论文提出Ghost模块来构建高效的网络结果。该模块将原始的卷积层分成两部分，先使用更少的卷积核来生成少量内在特征图，然后通过简单的线性变化操作来进一步高效地生成ghost特征图。从实验来看，对比其它模型，GhostNet的压缩效果最好，且准确率保持也很不错，论文思想...
Ghost Net: 如何从轻量的计算中提取更多的特征？
Spuer_Tiger
03-09 1672
GhostNet: 如何从轻量的计算中提取更多的特征？ GhostNet: More Features from Cheap Operations_arXiv:1911.11907v1 [cs.CV] 27 Nov 2019（本人自译，转载译本需经许可） Abstract: ​ 由于有限的内存和计算资源，在嵌入式设备上部署卷积神经网络（CNN）十分困难。 特征图中的冗余是那些成功的CNN的重要特...
GhostNet学习笔记 --- GhostNet: More Features from Cheap Operations
梦坠凡尘
03-03 3422
GhostNet: More Features from Cheap Operations 论文地址：https://arxiv.org/abs/1911.11907 Github开源地址：https://github.com/huawei-noah/ghostnet
即插即用、压缩加速模型的Ghost模块《GhostNet: More Features from Cheap Operations》读后总结
yzqlyzql的博客
06-18 2984
即插即用、压缩加速模型的Ghost模块《GhostNet: More Features from Cheap Operations》读后总结前言为什么要做这个研究文章主要内容与贡献提出了一种新颖的Ghost模块，可以通过廉价的操作生成更多的特征图。基于一组固有特征图，应用了一系列成本低廉的线性变换来生成许多可以完全揭示固有特征信息的重影特征图可以将提出的Ghost模块用作即插即用组件，以升级现有的卷积神经网络。设计Ghost瓶颈来堆叠Ghost模块，然后可以轻松地建立轻量级的Ghost Net在基准上进行的
GhostNet（2020 IEEE CVPR）
最新发布
朴实无华的研究生活
02-20 1222
本文提出了一种新颖的Ghost模块，用于通过廉价操作生成更多的特征图。该模块首先使用小型滤波器生成一些基本特征图，然后通过一系列简单的线性变换生成更多特征图。与现有方法相比，Ghost模块在保持相似性能的同时减少了参数和计算复杂度。基于Ghost模块，构建了高效的GhostNet架构。实验表明，Ghost模块可以减少普通卷积层的计算成本，而GhostNet在多个基准数据集上的表现优于其他高效模型，如MobileNetV3，在ImageNet分类任务上达到75.7%的Top-1准确率。
YOLOv7、YOLOv7-tiny改进GhostNet主干系列：高效结合GhostNet网络，华为出品
包括YOLOv5、YOLOv7、YOLOv8等模型改进
05-01 4000
代码实践｜YOLOv7改进 GhostNet 主干系列
【图像分类】实战——使用ResNet实现猫狗分类（pytorch）
热门推荐
AI浩
05-28 3万+
摘要 ResNet（Residual Neural Network）由微软研究院的Kaiming He等四名华人提出，通过使用ResNet Unit成功训练出了152层的神经网络，并在ILSVRC2015比赛中取得冠军，在top5上的错误率为3.57%，同时参数量比VGGNet低，效果非常明显。 模型的创新点在于提出残差学习的思想，在网络中增加了直连通道，将原始输入信息直接传到后面的层中，如下图所示： 传统的卷积网络或者全连接网络在信息传递的时候或多或少会存在信息丢失，损耗等问题，同时还有导致梯度消
CNN基础——如何设置BatchSize
AI浩
05-14 2万+
3.5 Batch_Size 3.5.1 为什么需要 Batch_Size？ Batch的选择，首先决定的是下降的方向。 如果数据集比较小，可采用全数据集的形式，好处是： 由全数据集确定的方向能够更好地代表样本总体，从而更准确地朝向极值所在的方向。 由于不同权重的梯度值差别巨大，因此选取一个全局的学习率很困难。 Full Batch Learning 可以使用 Rprop 只基于梯度符号并且针对性单独更新各权值。 对于更大的数据集，假如采用全数据集的形式，坏处是： 随着数据集的海量增长和内存限制
CNN基础——激活函数
AI浩
05-15 2万+
1、什么是激活函数 激活函数(Activation functions)对于人工神经网络 模型去学习、理解非常复杂和非线性的函数来说具有十分重要的作用。它们将非线性特性引入到我们的网络中。如下图，在神经元中，输入的 inputs 通过加权，求和后，还被作用了一个函数，这个函数就是激活函数。引入激活函数是为了增加神经网络模型的非线性。没有激活函数的每层都相当于矩阵相乘。就算你叠加了若干层之后，无非还是个矩阵相乘罢了。 2、为什么要使用激活函数？ 激活函数对模型学习、理解非常复杂和非线性的函数具有重.
SENet实战详解：使用SE-ReSNet50实现对植物幼苗的分类
AI浩
10-24 2万+
摘要 1、SENet概述 ​ Squeeze-and-Excitation Networks（简称 SENet）是 Momenta 胡杰团队（WMW）提出的新的网络结构，利用SENet，一举取得最后一届 ImageNet 2017 竞赛 Image Classification 任务的冠军，在ImageNet数据集上将top-5 error降低到2.251%，原先的最好成绩是2.991%。 作者在文中将SENet block插入到现有的多种分类网络中，都取得了不错的效果。作者的动机是希望显式地建模
【图像分类】实战——使用EfficientNetV2实现图像分类（Pytorch）
AI浩
06-03 1万+
摘要 这几天学习了EfficientNetV2，对论文做了翻译，并复现了论文的代码。 论文翻译：【图像分类】 EfficientNetV2：更快、更小、更强——论文翻译_AI浩-CSDN博客 代码复现：
图像增强库Albumentations使用总结
AI浩
05-06 1万+
摘要 albumentations包是一种针对数据增强专门写的API，里面基本包含大量的数据增强手段，其特点： 1、Albumentations支持所有常见的计算机视觉任务，如分类、语义分割、实例分割、目标检测和姿态估计。 2、该库提供了一个简单统一的API，用于处理所有数据类型:图像(rbg图像、灰度图像、多光谱图像)、分割掩码、边界框和关键点。 3、该库包含70多种不同的增强功能，可以从现有数据中生成新的训练样本。 4、Albumentations快。我们对每个新版本进行基准测试，以确保增强功
CNN基础——卷积神经网络的组成
AI浩
05-13 1万+
以图像分类任务为例，在表5.1所示卷积神经网络中，一般包含5种类型的网络层次结构： CNN层次结构 输出尺寸 作用 输入层 W1×H1×3 卷积网络的原始输入，可以是原始或预处理后的像素矩阵 卷积层 W1×H1×K 参数共享、局部连接，利用平移不变性从全局特征图提取局部特征 激活层 W1×H1×K 将卷积层的输出结果进行非线性映射 池化层 W2×H2×K 进一步筛选特征，可以有效减少后续网络层次所需的参数量 全
mobileNetV2解析以及多个版本实现
AI浩
02-02 1万+
mobileNetV2是对mobileNetV1的改进，是一种轻量级的神经网络。mobileNetV2保留了V1版本的深度可分离卷积，增加了线性瓶颈（Linear Bottleneck）和倒残差（Inverted Residual）。 MobileNetV2的模型如下图所示，其中t为瓶颈层内部升维的倍数，c为特征的维数，n为该瓶颈层重复的次数，s为瓶颈层第一个conv的步幅。 除第一层外，整个网络中使用恒定的扩展率。 在实验中，发现在 5 到 10 之间的扩展率会导致几乎相同的性能曲线，较小的网络在扩展率
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI浩

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值