海思NNIE部署推理经常会遇到精度下降问题,但是又摸不着头脑究竟是什么原因,因此需要做精度分析来排查是不是算子问题或者是具体哪个算子问题。本文撰写详细操作说明文档,具体可以参考资料:海思NNIE之Mobilefacenet量化部署-腾讯云开发者社区-腾讯云
1.打开日志等级
a. caffe 推理结果
使用发布包中的脚本 CNN_convert_bin_and_print_featuremap.py,在 caffe 环境下运 行,会输出各层的中间文件在脚本当前路径的 output 目录下,例如: conv1_output0_96_55_55_caffe.linear.float 的文件;
b.nnie_mapper 量化及反量化 bypass 后推理结果
在 cfg 文件中配置 log_level=3(Function level)后点击 make wk 按钮,生产 wk 文 件,在$(project_root)/mapper_quant 中也会输出各层的中间文件,例如: conv1_output0_96_55_55_quant.linear.hex
c.指令仿真推理结果
在 nnie_sim.ini 配置选项[LAYER_LINEAR_PRINT_EN],在 func_layer_output_linear 文件夹下也会输出各层的中间文件,例如: seg0_layer0_output0_i