ShuffleNet详解

本文详细介绍了ShuffleNet的设计理念与结构,包括pointwise group convolutions以降低计算开销,channel shuffle解决信息隔离问题,以及整个ShuffleNet模型的构建。实验表明,ShuffleNet在保证模型性能的同时,显著降低了计算成本。
摘要由CSDN通过智能技术生成

ShuffleNet详解

论文《ShuffleNet:An Extremely Efficient Convolutional Neural Network for Mobile Devices

1 主要思想

轻量级CNN网络近年备受关注,与传统的高准确度但较为复杂的CNN,轻量级网络受限实际任务中计算资源的限制,重点关注模型复杂度和准确度的权衡。

已存在一些SOTA的轻量级模型,如Xception、ResNeXt等,但在这些网络中的pointwise convolutions(1*1 conv)计算开销仍然较大。

文章提出了pointwise group convolutions,通过对pointwise convolutions进行分组,可以很大程度的降低其计算开销。除此之外,文章还提出了channel shuffle的操作来解决分组带来的副作用。最后,文章基于pointwise group convolutions和channel shuffle构建了ShuffleNet。

2 模型结构

2.1 pointwise group convolutions

近年提出的Depthwise sparable convolutions很大程度上减少了CNN网络的计算开销,但网络中的pointwise convolutions仍然开销很大。

利用分组卷积的思想,文章将pointwise convolutions进行分组&#x

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值