-
Quantization
-
方法介绍
-
效果
论文(参考文献a)中以imageNet数据(1.2M training images,1K categories,50k validation images),使用多个模型,从各个角度做了实验,对比quantization的效果,结果如下:
-
forward效果
AlexNet模型,不Quantization Q tilt (ReLU) sign tilt (hard tanh) Q(HWGQ) + ReLu backward sign + ReLU backward Alex Net Full Weight top 1 55.7 55.7 46.7 49.5 top 5 79.3 79.3 71<
-
-
深度学习模型的量化方法(论文学习 & tensorflow lite量化方法)
最新推荐文章于 2024-06-04 15:24:40 发布
![](https://img-home.csdnimg.cn/images/20240611030827.png)