1、判断模型能否在手机上运行?
A:通过调用接口HMS_HiAICompatibility_CheckFromFile或者HMS_HiAICompatibility_CheckFromBuffer,传入编译后的模型文件或者模型buffer,如果返回“HIAI_COMPATIBILITY_COMPATIBLE”表示兼容性检查通过,模型可以在手机上运行。
2、如何选择使用同步接口还是异步接口?
A:由业务场景决定,目前两者均支持,从性能考虑推荐使用异步接口。
3、推理函数支持的数据格式有哪些?
A:推理时传入的inputTensor的数据格式当前只支持nchw。
4、如何处理OMG离线模型输出算子类型错误?
A:Caffe网络中具有相同类型名但计算功能不同的层。比如DetectionOutput层,需要使用算子映射指明为FSRDetectionOutput、SSDDetectionOutput等检测算子类型,否则OMG生成离线模型会执行失败。为了避免出现错误,以下两种方案二选一即可。
-
方案1:可以在OMG命令中加入--op_name_map参数,参考OMG参数中op_name_map参数设置。
-
方案2:可以在原始网络proto模型文件中将输出算子类型指定为SSDDetectionOutput等算子类型,如下图所示。
图1 输出算子类型修改前(左)和修改后(右)
更多详情查看:文档中心