使用ONNX Runtime封装onnx模型并推理
进行这一步之前,请确保已正确安装配置了Visual Studio 2017 和 C#开发环境。
项目的代码也可以在这里找到,下面的步骤是带着大家从头到尾做一遍。
界面设计
创建Windows窗体应用(.NET Framework)项目,这里给项目起名ClassifyBear。
在解决方案资源管理器中找到Form1.cs,双击,打开界面设计器。从工具箱中向Form中依次拖入控件并调整,最终效果如下图所示:
左侧从上下到依次是:
-
Label控件,将内容改为“输入要识别的图片地址:”
-
TextBox控件,可以将控件拉长一些,方便输入URL
-
Button控件,将内容改为“识别”
-
Lable控件,将label的内容清空,用来显示识别后的结果。因为label也没有边框,所以在界面看不出来。可以将此控件的字体调大一些,能更清楚的显示推理结果。
右侧的控件是一个PictureBox,用来预览输入的图片,同时,我们也从这个控件中取出对应的图片数据,传给我们的模型推理类库去推理。建议将控件属性的SizeMode更改为StretchImage,并将控件长和宽设置为同样的值,保持一个正方形的形状,这样可以方便我们直观的了解模型的输入,因为在前面查看模型信息的时候也看到了,该模型的输入图片应是正方形(当前最新的定制化视觉服务导出的模型需要的输入图片大小为224*224
)。
添加模型文件到项目中
打开解决方案资源管理器中,在项目上点右键->添加->现有项,在弹出的对话框中,将文件类型过滤器改为所有文件,然后导航到模型所在目录,选择模型文件并添加。本示例中使用的模型文件是BearModel.onnx
。
模型是在应用运行期间加载的,所以在编译时需要将模型复制到运行目录下。在模型文件上点右键,属性,然后在属性面板上,将生成操作
属性改为内容
,将复制到输出目录
属性改为如果较新则复制
。
添加OnnxRuntime库
微软开源的OnnxRuntime库提供了NuGet包,可以很方便的集成到Visual Studio项目中。
打开解决方案资源管理器,在引用上点右键,管理NuGet程序包。
在打开的NuGet包管理器中,切换到浏览选项卡,搜索onnxruntime
,找到Microsoft.ML.OnnxRuntime
包,当前版本是0.4.0,点击安装,稍等片刻,按提示即可完成安装。
当前NuGet发布的OnnxRuntime库支持x64及x86架构的运行库,建议使用x64的,所以这里将项目的目标架构改为x64。
在解决方案上点右键,选择配置管理器。在配置管理器对话框中,将活动解决方案平台切换为x64。如果没有x64,在下拉框中选择新建,按提示新建x64平台。
处理输入并加载模型进行推理
在Form1.cs上点右键,选择查看代码