（二）ShuffleNet学习笔记

最新推荐文章于 2023-08-28 22:53:43 发布
最新推荐文章于 2023-08-28 22:53:43 发布
阅读量286 收藏 3
点赞数
分类专栏： 论文学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_37953242/article/details/104460895
版权
本文详细介绍了ShuffleNet的设计理念，包括组卷积以降低计算复杂度，以及通道混洗来增强全局信息流通。ShuffleNet Unit的构成和作用也被深入探讨，展示了其在移动设备上的高效性能。
摘要由CSDN通过智能技术生成

发表：2017.12.7 CVPR
目的：为计算能力非常有限（例如10-150 MFLOP）的移动设备追求最佳准确性
方法：逐点组卷积（解决1×1的卷积计算复杂度）、通道混洗（增强了全局信息的流通）

1.组卷积

用1×1GConv替换掉原来的1×1Conv可以减少计算。原来昂贵的逐点卷积导致通道数量有限，无法满足复杂性约束，这可能会严重影响精度。为了解决这个问题，一个简单的解决方案是在1×1层上应用通道稀疏连接，例如组卷积。 通过确保每个卷积仅在相应的输入通道组上运行，组卷积显着降低了计算成本。（为什么逐点卷积导致通道数量有限）

几种常见卷积：标准卷积、深度可分离卷积、扩展卷积、组卷积
Group Co

最低0.47元/天 解锁文章
负债少女
关注
  • 0
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
深度学习- ShuffleNet
qq_16236875的博客
09-09 227
介绍：受计算力受限的移动设备，新的架构利用两个操作：逐点群卷积（pointwise group convolution）和通道混洗(channel shuffle).Xception和ResNeXt 在小网络模型中效率低： 大量的1*1 卷积耗费计算资源。提出了逐点群卷积帮助降低计算复杂度，但是使用逐点群卷积会有副作用，故在此基础上，论文提出通道混洗帮助信息流通，相比于其他模型，ShuffleNe...
目标检测轻量化压缩
吴建明wujianming_110117
04-22 1512
目标检测轻量化压缩 目标检测难点概述 目标检测是计算机视觉中一个重要问题，在行人跟踪、车牌识别、无人驾驶等领域都具有重要的研究价值。近年来，随着深度学习对图像分类准确度的大幅度提高，基于深度学习的目标检测算法逐渐成为主流。 自 2014 年以来，目标检测框架分为two-stage 和 one-stage 两大类，前者以经典方法 Faster R-CNN 为代表，后者以 YOLO 和 SSD 为主要...
通道混洗模块（Channel Shuffle Module）
吃葡萄不吐葡萄皮
08-28 1042
通道混洗模块的主要作用在于增强特征的跨通道交流。在传统的卷积层中，不同通道之间的信息很少进行交流，通道混洗模块通过打破这种限制，可以提取更加丰富和有用的特征表示，从而有助于提高网络的性能。此外，通道混洗模块还可以一定程度上减少模型的计算复杂性，因为它可以在一定程度上减少通道之间的相关性，从而减少参数量。通道混洗模块的核心思想是将输入的特征图分成多个通道组，并将这些通道组重新组合以促进不同通道之间的信息交换。请注意，这只是一个简单的示例，实际的通道混洗模块可能会在更复杂的网络架构中使用。
阅读笔记6——通道混洗
python_plus的博客
02-22 1293
本文为阅读《深度学习之Pytorch物体检测实战》的笔记
一图说清ShuffleNet中的通道混洗（附两种pytorch实现）
gbz3300255的博客
09-11 5996
0.看ShuffleNet的通道混洗没看明白，后来在大神博客：https://blog.csdn.net/u011974639/article/details/79200559上看明白了。把自己理解写在下面方便像我这样的小白更清晰理解。 1.上图：通道混洗就是打乱原特征图通道顺序。 上图说的够明白了吧。首先确定自己的特征图通道数多少，再确定组数多少，然后将通道分组后作为输入（input）就可以了。 最终的输出还是组的形式，再将其拼接就是和原来输入一样shape的特征图了。只不过通道被打乱了。 2
Python学习笔记第二版
07-22
资源名称：Python 学习笔记 第二版内容简介：Python 学习笔记 第二版雨痕的python学习笔记, 很好的学习资料，想学习python的朋友可以收藏下。 资源截图： 资源太大，传百度网盘了，链接在附件中，有需要的同学自取。
java学习笔记总结
04-02
这份“java学习笔记总结”涵盖了作者在深入学习Java过程中积累的知识点和实践经验，旨在帮助读者理解和掌握Java的核心概念。 首先，Java的基础部分包括语法、变量、数据类型、运算符和流程控制。Java支持八种基本...
学习笔记学习笔记学习笔记
01-29
学习笔记学习笔记学习笔记
MySQL进阶篇学习笔记
05-14
黑马MySQL课程总结的学习笔记
docker学习笔记.pdf
10-15
docker学习笔记，学习docker时做的学习笔记，有例子
ShuffleNet的pytorch实现
kobayashi_的博客
09-28 2129
ShuffleNet 1.概述 ShuffleNetv1 ShuffleNet是一个专门为移动设备设计的CNN模型，主要有两个特性： 1.pointwise(1×11\times11×1) group convolution 2.channel shuffle 它能够在减少计算量的同时保持精度。 剪枝（pruning），压缩（compressing)，低精度表示（low-bit representing） 使用pointwise group convolution来降低1×11\times11×1卷
通道混洗(Channel shuffle)
wa1tzy的博客
01-11 5061
import torch #通道混洗(Channel shuffle) #目的：在不增加计算量的情况下，使通道充分融合 x = torch.randn(4,6,3,3) y = x.reshape(4,2,3,3,3) print(y.shape) z = y.permute(0,2,1,3,4) print(z.shape) v = z.reshape(4,6,3,3) print(v.shap...
（二）ShuffleNet_v1----2017论文解读
chenbo的博客
02-08 1354
ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices ShuffleNet：一种用于移动设备的极其高效的卷积神经网络 Abstract 我们介绍了一种名为ShuffleNet的计算效率极高的CNN架构，该架构是专为计算能力非常有限（例如10-150 MFLOP）的移动设备设计的。新架构...
ShuffleNet
cpongo5
01-23 350
[论文地址] 摘要  我们介绍一种被设计用于计算能力有限的移动装置的卷积网络ShuffleNet，新的结构使用逐点群卷积和通道混洗方式，在保持准确率的情况下极大地减少运算量。在一个基于ARM的移动装置中，ShuffleNet在和AlexNet保持相同的准确率的情况下速度提升了13倍。 1 介绍  目前更大更深的网络是主流趋势，主要是为...
ShuffleNet总结
jacke121的专栏
09-02 4182
ShuffleNet总结 有预训练： https://github.com/ericsun99/Shufflenet-v2-Pytorch 先把卷积分组，然后交换通道传递 原文：https://www.cnblogs.com/heguanyou/p/8087422.html 目录 分组卷积与核大小对计算量的影响 不分组且只有一个样本 分组且只有一个样本 多个样本输入交换通道（Shuff...
ShuffleNet_v2模型解读
h__ang的博客
03-17 4469
论文链接：https://pan.baidu.com/s/1so7aD3hLKO-0PB8h4HWliw Abstract 目前，神经网络结构大多数都是以计算复杂度(FLOPS)作为间接度量标准来指导设计的，然而，实际上一个网络模型的训练或推理过程Flops等计算复杂度也只是其影响其整体效率的一个因素，其它像内存读写/外部数据IO操作、平台特性等都会对整体的实际运行效率产生影响。为实际生产考虑，我...
关于ShuffleNet V2的一些个人理解（欢迎批评指正）
weixin_44557900的博客
07-03 1123
关于ShuffleNet V2的一些个人理解（欢迎批评指正） ShuffleNet V2是孙剑等人发表在ECCV2018的文章，也是之前ShuffleNet的升级版，全名为**ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design**。这篇文章提出了一些比较新颖的观点，阅读完之后，获益颇多。本文就是我对该论...
轻量级深度学习网络——ShuffleNet & ShuffleNet v2
PRIS-SCMonkey的博客
01-09 1874
上一篇的文章我们分享了轻量化网络的第一次出色的尝试——MobileNet和MobileNet v2，这一次的文章将分享另一次轻量化网络的尝试——ShuffleNet和ShuffleNet v2，从名字来看就知道它做了一些清洗方面的工作，所以接下来来开始我们的正题——ShuffleNet和ShuffleNet v2。 ShuffleNet主要有两个方面的工作： 点态卷积群 通道混洗 ...
QTQTQTQTQTQTQTQTQTQTQTQTQTQTQT
最新发布
08-07
QTQTQTQTQTQTQTQTQTQTQTQTQTQTQT
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值