模型压缩
Mars_WH
微信:75582029 欢迎交流。从事图像深度学习相关开发,主方向:目标检测分割、模型压缩、引擎优化,常用语言:C++、Python,常用框架:Caffe、Pytorch、TensorFlow,常用技术:CUDA、TensorRT、TVM、Boost,常用系统:Linux、Windows,常用IDE:CLion、PyCharm、VS,常用编译工具:CMake、GCC,常用硬件:Jetson TX1/2,Tesla P4,海思Hi3559A,昇腾310,比特大陆BM1682
展开
-
基于权值熵的深度神经网络量化
原创作品,转载时请务必以超链接形式标明文章原始出处:http://www.dapalm.com/?p=88,作者:DaPalm-大数据,怕了么? 论文: Weighted-Entropy-based Quantization for Deep Neural Networks (CVPR2017)链接:http://openaccess.thecvf.com/content_cvpr_...原创 2018-01-06 11:12:33 · 1709 阅读 · 0 评论 -
Deep Compression/Acceleration(模型压缩加速总结)
模型压缩论文目录结构`structure`量化`quantization`Binarized Neural Networks: Training Deep Neural Networks with Weights and Activations Constrained to +1 or -1FINN: A Framework for Fast, Scalable Binarized Neural ...原创 2018-12-07 22:42:46 · 3319 阅读 · 3 评论 -
Rethinking the Smaller-Norm-Less-Informative Assumption in Channel Pruning of Convolution Layers论文翻译
重新思考卷积通道剪枝中的更小范数、更小信息量的假设摘要模型剪枝已成为一种可以提高深度学习的计算效率的有用技术,从而让深度学习模型在资源有限的场景中部署成为可能。相关工作中,广泛使用的实践假设:较小范数的参数或含较少信息的特征在推理中起着较小的作用。在本文中,我们提出了一种用于加速深度卷积神经网络(CNN)计算的通道剪枝技术,该技术并不严格依赖于这种假设。相反,它侧重于CNN的通道到通道计算图的...原创 2018-12-03 20:55:14 · 3011 阅读 · 5 评论 -
PocketFlow ChannelPrunedLearner代码详解
文章目录PocketFlow框架安装cifar10数据集准备执行代码程序入口-`main.py`通道裁剪学习器-`channel_pruning/learner.py`模型封装器-`channel_pruning/model_wrapper.py`通道裁剪器-`channel_pruning/channel_pruner.py`下面代码不包括DDPG强化学习参数优化器和Distill蒸馏训练P...原创 2019-04-04 15:56:30 · 833 阅读 · 2 评论 -
PocketFlow自定义模型和数据集
文章目录自定义模型要点概括数据输入管道网络定义执行脚本PocketFlow中训练网络自定义模型整合自定义模型需要实现一个ModelHelper类。ModelHelper包含数据输入管道和网络前向传播和损失函数的定义。使用自定义的ModelHelper,网络可以无限制的使用FullPrecLearner训练,或者使用其他如ChannelPrunedLearner和UniformQuantTFLe...翻译 2019-04-08 12:04:30 · 1065 阅读 · 6 评论 -
[剪枝]Channel Pruning for Accelerating Very Deep Neural Networks
[ICCV2017] Channel Pruning for Accelerating Very Deep Neural Networksarxiv:https://arxiv.org/abs/1707.06168github:https://github.com/yihui-he/channel-pruning序言最近在系统学习DL的相关理论知识,猛然看到无监督学习中关于“稀疏编码”...原创 2019-04-28 10:00:07 · 472 阅读 · 0 评论