ShuffleNet v2论文笔记

旷视科技近日公开了一篇CNN结构设计优化的文章(已被ECCV2018收录),分享下自己的阅读笔记。

文章提出:FLOPs虽然可以反映计算复杂度,但不能体现计算的速度和延迟(latency),最直观的例子就是MobileNet v2和NASNET-A具有相当的FLOPs,但前者的计算速度更快。作者分析形成差异的原因有两点:

a.MAC(Meomry Access Cost)即内存访问代价的不同

b.相同的FLOPs规模在不同平台速度表现不同(作者举例cudnn7.0对3x3卷积的优化)

结论:1.评测不仅考虑FLOPs,也要考虑运算速度

           2.使用特定的平台

 

作者提出了设计网络时的四项基本原则:

G1:输入输出通道相同,减少MAC

     1x1的卷积核,特征图的尺寸为h*w,输入特征channel为c_{1},输出特征channel为c_{2},FLOPs为:

     B=hwc_{1}c_{2}

     MAC的值为:

     

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值