模型剪枝-Network Slimming实战解读

本文详细介绍了深度学习模型剪枝技术Network Slimming的实战应用,包括项目配置、训练流程、剪枝过程和微调步骤。通过在VGG网络上训练并加入L1正则化,实现BN层权重的离散化。剪枝时,依据γ值排序确定阈值,然后对特征图进行剪枝,最后进行微调优化模型。完整代码和更多细节可在提供的链接中获取。
摘要由CSDN通过智能技术生成

相关代码见文末

1.项目配置

项目目录文件如下:

参数配置:

  • 训练,并且加入l1正则化 -sr --s 0.0001
    ​​​​​执行剪枝操作 --model model_best.pth.tar(剪枝权重文件) --save pruned.pth.tar(保存剪枝结果) --percent 0.7(剪枝比例)
    再次进行微调操作 --refine pruned.pth.tar --epochs 40

2.训练流程

        在训练中,首先构建VGG网络,加载数据进行训练,需要注意的是,为了使BN的权重离散化,需要对BN的权重使用L1正则化进行更新。

训练流程:

def train(epoch):
    model.train()
    for batch_idx, (data, target) in enumerate(train_loader):
        if args.cuda:
            data, target = data.cuda(), target.cuda()
        data, target = Variable(data),
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

樱花的浪漫

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值