1.原理及流程
过滤器修剪即修剪卷积核的部分输出通道。深度 CNN
网络可以参数化为 {
W ( i ) ∈ R N i + 1 ∗ N i ∗ K ∗ K , 1 ≤ i ≤ L W^{(i)∈R^{N_{i + 1}*N_i*K*K}, 1 \leq i\leq L} W(i)∈RNi+1∗Ni∗K∗K,1≤i≤L }, W ( i ) W^{(i)} W(i) 表示第 i
层中的连接权重矩阵。 N i N_i Ni 表示第 i
个卷积层的输入通道数。修剪过滤器可以删除输出特征图。这样,神经网络的计算成本就会显着降低。让我们假设第 i
层的 SFP
的剪枝率为 P i P_i Pi。该层的滤波器数量将从 N i + 1 N_{i+1} Ni+1 减少到 N i + 1 ( 1 − P i ) N_{i+1}(1 − P_i) Ni+1(1−Pi),从而输出张量 V i , j V_{i,j} Vi,j 的大小可以减少到