onnxruntime
FL1623863129
计算机应用软件开发,长期致力于研究图像算法,人工智能算法,边缘部署,算法落地研究
展开
-
[C++][onnxruntime]攻克onnxruntime之求输入tensor的长度
要求:一直模型输入tensor shape是[1,3,640,640],求输入tensor长度,一般我们用简单乘法1*3*640*640就可以实现,但是我看github大佬们都喜欢用std::accumulate去做,于是记录一下求解长度方法。原创 2023-06-21 10:31:00 · 408 阅读 · 1 评论 -
[C++][onnxruntime]攻克onnxruntime之获取输入输出节点名称数量和shape
如何使用onnxruntime获取onnx模型的输入和输出相关信息呢,这里以yolov8s.onnx为例子,首先我们用netron打开看节点信息。原创 2023-06-21 09:53:14 · 2694 阅读 · 0 评论 -
[C++][onnxruntime]攻克onnxruntime之从内存字节流加载onnx模型
我们可以直接使用onnx路径加载模型,有时候我们可能会遇到内存流加载字节流情况,比如我可以对onnx加密然后通过内存解密加载,从而实现onnx保护而且不影响对onnx使用。原创 2023-06-21 09:27:33 · 1037 阅读 · 4 评论 -
[C++][onnxruntime]攻克onnxruntime之自动切换CPU和GPU
要求:如果你用的onnxruntime是cpu版本的就用cpu,如果你用onnxruntime是gpu版本则自动使用GPU,这样就不用每次换个库来回修改代码了。这个怎么实现呢,具体看下面代码。原创 2023-06-21 09:13:47 · 2696 阅读 · 4 评论 -
[C++][onnxruntime]攻克onnxruntime之报错应用程序无法正常启动(0xc000007b)。请单击“确定”关闭应用程序。
运行onnxruntime后提示应用程序无法正常启动(0xc000007b)。请单击“确定”关闭应用程序。即使你把onnxruntime加入环境变量也会提示下面错误。最后发现解决方法很简单就是把onnxruntime的dll和exe放一起就行了。原创 2023-06-21 09:10:45 · 953 阅读 · 1 评论