qq_58309705的博客

原创 神经网络剪枝论文精读（一）《Pruning Filters for Efficient ConvNets》（结构化剪枝//l1范数//层内评估//权重依赖）

主要提出该文章使用结构化剪枝方法，在之前研究中基于权重的剪枝方法（非结构化）虽然大幅减少了全连接层中的参数量，但是由于在剪枝后形成了不规则的稀疏化网络，没办法减少卷积层的计算量。而该文中提到的卷积核剪枝（结构化），将某些卷积核整个的从卷积层中移除，可以在不添加额外的线性运算库的条件下，有效的减少模型推理计算量。VGG-16以及ResNet-110在CIFAR-10上都看到显著效果：VGG-16：推理加速34% ResNet-110：推理加速38% 在微调后都达到接近原模型的正确率。