超级会员免费看
该研究从结构冗余角度探讨模型剪枝问题，指出在具有最多冗余的层中剪枝优于普遍的最不重要卷积核删除。论文提出了一种称为SSR（Structural Redundancy Reduction）的层自适应通道剪枝方法，通过建立CNN层的图模型，利用覆盖数和商空间大小来度量冗余，从而有效地进行模型压缩。实验结果显示，这种方法能有效保持模型性能的同时降低网络复杂度。
【CVPR 2021】剪枝篇（二）：Convolutional Neural Network Pruning with Structural Redundancy Reduction
论文地址：
https://arxiv.org/abs/2104.03438
主要问题：
现有的模型剪枝工作通常集中于删除网络中最不重要的卷积核，以实现紧凑的网络结构
在这项研究中作者声称结构冗余比寻找不重要的卷积核起更重要的作用
主要思路：
作者首先从冗余减少的角度对模型剪枝问题进行统计建模，发现结构冗余最多的层中的剪枝优于在所有层中修剪最不重要的卷积核
通过这一发现，我们提出了一种基于结构冗余减小（SSR）的层自适应通道剪枝方法，通过为CNN的每个卷积层建立一个图，并使用与图相关的两个量（即 ℓ − ℓ- ℓ−覆盖数和商空间大小）作为每一层冗余的测量
订阅专栏 解锁全文
976
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
