深度学习模型的量化方法（论文学习 & tensorflow lite量化方法）

1. Quantization

   1. 方法介绍

      

   2. 效果

      论文（参考文献a）中以imageNet数据（1.2M training images，1K categories，50k validation images），使用多个模型，从各个角度做了实验，对比quantization的效果，结果如下：
      

      1. forward效果
         AlexNet模型，

         			不Quantization	Q tilt (ReLU)	sign tilt (hard tanh)	Q(HWGQ) + ReLu backward	sign + ReLU backward
         Alex Net	Full Weight	top 1	55.7	55.7	46.7	49.5
         		top 5	79.3	79.3	71<