这是CVPR 2017年的一篇论文,研究的是:基于能量消耗导向的网络剪枝。
当我们把CNN运用到嵌入式等电池驱动的设备上时,其能量消耗是个不可忽视的大问题。比如,在一个智能手机上,AlexNet不能运行超过一个小时。而以往地针对网络剪枝的关注点主要在model size和FLOPs上面,没有真正的去关注能量的问题。
这篇文章提出的框架如下:
其步骤如下:
- 以能量消耗排序层
- 以幅度大小移除weights
- 重新存储weights
- 局部微调
- 判断还有未剪枝的层:有的话转第 2 步,没的话转第 6 步
- 全局微调
- 判断准确度是否低于设定的阈值:是就结束,不是就转第 1 步
这样反复地裁剪可以尽可能地减少网络的能量消耗,从结果上来看,这种方法是可行的:
但是,这篇论文并没有比较这个方法和其他剪枝方法在能量上的消耗,显得不是很有说服力。