ONNX转SIGMASTAR平台
onnx和sigmastar平台的各自介绍(建议Google)
sigmastar输出结果不一致问题排查
转换过程可以分为三个步骤:
- Convert Tool:将TensorFlow、Keras、Caffe和ONNX框架的网络模型转换为SigmaStar浮点网络模型(SGS Float file);
- Calibrator:将SigmaStar浮点网络模型转化为SigmaStar定点网络模型(SGS Fixed file);
- Compiler:将SigmaStar定点网络模型转化为SigmaStar离线网络模型(SGS Offline cmd file);
- Simulator:对SGS Float file / SGS Fixed file / SGS Offline cmd file仿真运行;
- 查找官方文档确认算子是否都是支持的
- YOLOv8系列导出时,需要把检测头部分的后处理拿到外面来做,sigmastar不支持后处理的操作:
- 执行Calibrator时,输出config中的output_layouts 好像限制了必须输出四个维度
很奇怪,这里有的时候设置三个维度输出是可以的,但是更多时候会直接报错,但是还没有找到规律能够100%复现.