在移动设备上实时执行的DNN权重修剪中缺失但令人满意的稀疏性

        本篇文章是记录的是对PCONV: The Missing but Desirable Sparsity in DNN Weight Pruning forReal-time Execution on Mobile Devices的学习。为对人工智能，深度学习等领域有兴趣的同学提供参考和学习，内容如有不当请联系作者进行改进，互相学习。

        该篇文章主要介绍了针对当前流行的剪枝手段的两个极端：结构化剪枝（精度不高，对硬件设备友好）和非结构化剪枝（精度高，对硬件设备不友好，推理消耗时间）。分析两种剪枝方案的优缺点并结合两种剪枝方案的优点，设计出在算法层面和硬件编译阶段进行优化的一种新的剪枝方案和推理优化方案，该方案能够在移动设备上实时推理。

原论文地址：《PCONV: The Missing but Desirable Sparsity in DNN Weight Pruning forReal-time Execution on Mobile Devices》

摘要：在深度神经网络中模型压缩技术是一种有效的在各类平台上实现加速，深度神经网络模型剪枝是一个直接和高效的方法。当前有两种主要的修剪方式代表修剪规则的两个极端：结构化修剪--精细化剪枝能够实现高稀疏性和高精确度，但是对硬件不友好。结构化剪枝--粗粒度修剪利用了硬件效率高的结构，但当修剪率很高时，准确性会下降。针对以上文章提出了PCONV-一种新的稀疏维度压缩方案------粗粒度修剪结构中的细粒度模式剪枝。PCONV结合了两种稀疏类型，由内部