模型压缩工具Distiller-INT8量化

1.distiller工具介绍

   Distiller是一个开源的Python软件包，用于神经网络压缩研究。网络压缩可以减少神经网络的内存占用，提高推理速度并节省能源。Distiller提供了一个PyTorch环境，用于对压缩算法进行原型设计和分析。

      主要功能：

• A framework for integrating pruning, regularization and quantization algorithms. 模型剪枝，正则化以及量化
• A set of tools for analyzing and evaluating compression performance. 分析和评估压缩性能
• Example implementations of state-of-the-art compression algorithms. 一些压缩实例

 

2.distiller安装

     github地址：https://github.com/NervanaSystems/distiller 支持PyTorch1.x（在Pytorch 1.1+PyThon3.6上测试成功）。

     使用手册：https://nervanasystems.github.io/distiller/ 具体安装见github。