论文:无人驾驶深度学习模型组合剪枝算法*笔记
1、卷积核剪枝侧重于模型加速,权重剪枝侧重于模型压
缩,使用了组合剪枝算法
2、正则化
3、卷积核剪枝,每剪掉一个卷积核之后,相应的输出特征
图也会少一个通道,而且还会影响下一个卷积层。
卷积核剪枝的重点就是如何评价卷积核重要性,本文
采用将卷积核参数绝对值之和大小作为评判卷积核重要性
的标准,卷积核参数求和公式。
4、全连接层的权重数量在整个网络中所占比重较大,计
算量相对于卷积层所占比重较小,因此提出随机权重折半
剪枝算法,能够快速剪掉大量权重参数
全连接层权重参数存在大量冗余,对于全连接层剪枝能够大幅压
缩模型尺寸;