关于fpgm剪枝的思考

fpgm剪枝：Filter Pruning via Geometric Median
for Deep Convolutional Neural Networks Acceleration

论文：

https://arxiv.org/pdf/1811.00250.pdf

GitHub:
https://github.com/he-y/filter-pruning-geometric-median
 

核心思想就是：去掉权重中不是那么重要的一些权重，作者认为位于几何中位数的权重不是那么重要，可以去掉。

经过训练测试发现：每一层都裁剪掉相同剪枝率的权重，等效于整体的网络宽度直接*剪枝率；比较整体的网络宽度*剪枝率的小网络与每一层都裁剪掉相同剪枝率的权重的裁剪网络是相同的，而且直接训练的整体的网络宽度*剪枝率的小网络的性能不比每一层都裁剪掉相同剪枝率的权重的裁剪网络的性能差，那么fpgm剪枝感觉没起到什么作用啊！