tensorflow fake quantization 伪量化训练-单GPU和多GPU
tensorflow fake quantization 伪量化训练tensorflow伪量化训练简单说就是用float类型的模拟int类型的运算。在fake quantization训练的过程中,尽量使float类型的计算精度接近int类型的精度。fake quantization 需要在计算图中添加一个伪量化的节点,才能进行伪量化训练,同时该方法的训练出来的模型需要使用,对应的伪量化转pb代...
原创
2019-09-02 09:20:48 ·
2149 阅读 ·
0 评论