一、需求
最近在转换一个超分模型的时候,对应动态输入需要让模型自动推理当前层的尺度,但是Resize层在转MNN的时候,参数已经被写死,转换成功的模型没办法去自适应的匹配当前图像输入大小,超分模型的输出与预期不一致。
二、处理流程
2.1 初步定位
首先用MNN的官方工具MNNV2Basic.out,具体用法可以参考资料[1],打印出每一层的输入和输出, 然后观察输入输出的文件大小变化,可以看到第56层的输入从1615k跳变成了1k,初步断定是第56层出了问题;
2.2 再次确认
用Netron打开MNN模型文件可以看到,Interp文件的outputWidth和OutputHeight写死了,都是40,而不是采用设置widthScale和heightScale方式,因此这一层不会动态计算Size,最终导致输出层产生和预期不一致的结果。
2.3 转换器代码查询
初略读了一下ONNX的模型转换器,大致流程如下:
具体代码解读,可以参考参考资料[2],每一个ONNX的OP对应于一个MNNOP转换器,resize对应OpConverter位于MNN/tools/converter/source/optimizer/onnxextra/OnnxUpsample.cpp中,注销掉outputWidth进而outputHeight参数,设置widthScale进而heightScale参数,
// resizeParam->outputHeight = sizesDataPtr[2];
// resizeParam->outputWidth = sizesDataPtr[3];
resizeParam->widthScale = 2.0f;
resizeParam->heightScale = 2.0f;
重新编译转换器,进行模型转换即可。
三、总结
首先,总的来说,改动代码也就几行,整个流程最主要的难点在于如何去定位问题,怎么去查找应该去修改哪一块代码,前期的工作量占用了整个工作的99.99%的时间;然后,对于正在使用的库或工具,我们除了要知道基本用法之外,在精力允许的前提下,可以去深入一点地了解更加底层一点的东西;最后,MNN代码真心不错,强烈安利大家读一读,真的收获很多,比如,定时工具、线程工具、CMakeLIstst文件写法、文件查询工具、工程如何构建、内存如何管理等等。
四、参考资料:
[1] https://www.yuque.com/mnn/cn/tool_test
[2] https://zhuanlan.zhihu.com/p/124295758