模型压缩deep compression

论文名称
Deep Compression: Compressing Deep Neural Networks with Pruning, Trained Quantization and Huffman coding
参考博客:深度神经网络压缩
参考视频讲解:深度学习课程中的模型压缩小节
手下把论文的方法结构图放置如下:
1:剪枝:其中第一步,将模型中作用不大的参数进行去除,例如参数接近0的。
2:重新训练:剪枝之后对模型进行重新训练。
3:less bits:权值进行k-means聚类,利用1,2,3,4等值代替原来的float值。
4:对less bits之后的参数进行hufffman编码,该方式是通信中的编码方式,即对频率高的数值用低bit数进行标识,借此降低bits。
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值