SFP(Soft Filter Pruning)笔记

原文地址

1.原理及流程

过滤器修剪即修剪卷积核的部分输出通道。深度 CNN 网络可以参数化为 { W ( i ) ∈ R N i + 1 ∗ N i ∗ K ∗ K , 1 ≤ i ≤ L W^{(i)∈R^{N_{i + 1}*N_i*K*K}, 1 \leq i\leq L} W(i)RNi+1NiKK,1iL }, W ( i ) W^{(i)} W(i) 表示第 i 层中的连接权重矩阵。 N i N_i Ni 表示第 i 个卷积层的输入通道数。修剪过滤器可以删除输出特征图。这样,神经网络的计算成本就会显着降低。让我们假设第 i 层的 SFP 的剪枝率为 P i P_i Pi。该层的滤波器数量将从 N i + 1 N_{i+1} Ni+1 减少到 N i + 1 ( 1 − P i ) N_{i+1}(1 − P_i) Ni+1(1Pi),从而输出张量 V i , j V_{i,j} Vi,j 的大小可以减少到 <

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值