tensorflow-yolov3版int8量化

本帖纯粹记录个人开发过程

服务器环境

V100服务器，ubuntu16.04 ,cuda10.0 tensorflow1.13.1  （tensorrt6.0.1.5记录）  

tensorflow-yolov3版本：https://github.com/YunYang1994/tensorflow-yolov3

量化版本：https://blog.csdn.net/hh_2018/article/details/82747483

在tensorflow-yolov3版本根据输出checkpoint，转出pb文件为yolov3_voc.pb

量化相关命令：

查看输入输出节点：bazel-bin/tensorflow/tools/graph_transforms/summarize_graph --in_graph=yolov3_voc.pb

量化（到tensorflow目录下）：bazel-bin/tensorflow/tools/graph_transforms/transform_graph --in_graph=yolov3_voc.pb  --inputs="input/input_data" --outputs='pred_sbbox/concat_2,pred_mbbox/concat_2,pred_lbbox/concat_2'   --out_graph=yolov3_voc_trans1.pb   --transforms="fold_batch_norms fold_old_batch_norms quantize_weights   sort_by_execution_order remove_nodes(op=Identity, op=CheckNumerics) fold_constants(ignore_errors=true) strip_unused_nodes merge_duplicate_nodes"

结果：