问题描述:
【功能模块】
Ascend910,mindspore1.5
【操作步骤&问题现象】
1、训练的resnet50模型转air载转om,在910上推理精度正常,有95%
2、同样的模型使用amct_mindspore工具转成量化的air模型之后再转om推理就出问题了,精度为10%。
问题是出在amct_mindspore转air步骤还是air转Om的步骤呢
解答:
可能参照这个流程排查一下
可以打开一下这个进行查看和逐层对比,同时建议分层对比一下精度:dump mindpore原始模型每一层的结果和om对应层的输出结果对比,看下是哪一层的问题