本身有一个ONNX的模型,通过Mindspore Lite 1.7.0版本转换后,非常顺利,但是在benchmark中测试,速度非常慢,很不正常,大家有没有思路如何排查这个问题
可以试下加大thread,用fp16 ,用gpu,benchmark --hep看下命令。主要原因还是你模型太大,resnet50才50ms左右。
本身有一个ONNX的模型,通过Mindspore Lite 1.7.0版本转换后,非常顺利,但是在benchmark中测试,速度非常慢,很不正常,大家有没有思路如何排查这个问题
可以试下加大thread,用fp16 ,用gpu,benchmark --hep看下命令。主要原因还是你模型太大,resnet50才50ms左右。