Ubuntu18.04安装onnxruntime（c++版）与CUDA运行Demo

昼行plus

已于 2023-04-18 02:14:51 修改

阅读量2.4k

点赞数

分类专栏： ROS 文章标签： c++ 开发语言

于 2022-11-27 10:21:29 首次发布

本文链接：https://blog.csdn.net/weixin_48592526/article/details/128023674

版权

ROS 专栏收录该内容

25 篇文章 56 订阅 ¥19.90 ¥99.00

订阅专栏

超级会员免费看

本文介绍了在Ubuntu18.04上安装onnxruntime C++版本，并与CUDA配合运行Demo的详细步骤，包括解决编译问题、CUDA版本匹配、CMake升级以及处理动态库冲突。同时，文章探讨了CUDA加速在推理性能上的注意事项，提醒在测试耗时中考虑多个batch的影响。

摘要由CSDN通过智能技术生成

根据项目需求，从pytorch转的onnx模型做部署。具体可以参考pytorch官方

1、安装

下载源码（根据目标版本选一个就行）：

git clone --depth=1 --branch v1.12.1 https://github.com/microsoft/onnxruntime.git
git clone --depth=1 --branch v1.8.2 https://github.com/microsoft/onnxruntime.git

1、注意cuda版本要和onnxruntime版本对应，具体参考

了解本专栏

订阅专栏解锁全文

超级会员免费看

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

昼行plus

关注关注

0
点赞
踩
4

收藏

觉得还不错? 一键收藏
打赏
0
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

专栏目录

订阅专栏

Ubuntu下的onnxruntime(c++)编译

如果想成为中心，那么就到中心去吧。

09-01

2138

其中的use_cuda表示你要使用CUDA的onnxruntime，cuda_home和cudnn_home均指向你的CUDA安装目录即可。也不多，大概几十个把。

Ubuntu18.04 ONNXRuntime C++ API编译

m0_46303486的博客

07-12

1339

最近在学习c++方面的部署应用，想着先拿熟悉的ONNX下手试试，却发现需要编译C++版本的ONNXRuntime。几经波折，在经历了一上午的编译后，终于成功了。写下这篇文章记录我的编译过程。

参与评论您还未登录，请先登录后发表或查看评论

Ubuntu下安装和编译onnxruntime

chen_znn的博客

03-28

3841

记录在Ubuntu系统下编译onnxruntime的过程

ONNXRUNTIME C++安装配置（Ubuntu22.04、cuda11.8、cudnn8.9.6、onnxruntime1.18.2）

最新发布

爱要怎么锁住狗

10-08

967

需确认Ubuntu、cuda、cudnn版本信息，进而确定需要安装的onnxruntime版本信息。对于cuDNN 8.9.6版本，可通过如下链接安装。若未安装cuDNN，则通过以下链接选择合适版本。（1）查看cuda允许安装最大版本。（2）查看cuda实际安装版本。（3）查看cuDNN版本。补充：查看内核版本号。

ubuntu20.04下在VSCode中使用c++ onnxruntime部署yolov8模型

weixin_43850132的博客

07-10

1471

2、在vscode中添加自己写好的yolov8_onnx.h,yolov8_utils.h,yolov8_onnx.cpp,yolov8_utils.cpp文件，这四个文件可以用来对模型进行解析。将 {catkin_LIBRARIES}、{OpenCV_LIBRARIES} 和 ${ONNXRUNTIME_LIBS} 这些需要的库文件链接到 yolov8 目标中。头文件绝对路径为：/home/dxc/picking_apple_ws/src/img_process/include/img_process/

Ubuntu环境下C++使用onnxruntime和Opencv进行YOLOv8模型部署

氮气蜗牛的博客

08-17

2856

在Ubuntu系统下，使用C++工具和onnxruntime、Opencv等库，对YOLOv8训练好的onnx模型进行推理，解析，部署，方便使用低配置机器进行深度学习的体验。

ubuntu20.04 安装cpp版onnxruntime

蓝羽飞鸟的博客

09-23

3137

ubuntu + cpp版 onnxruntime

ubuntu18.04 安装 TensorRT 和 ONNXRuntime

qq_43644413的博客

05-21

3365

3. 查看适配的TensorRT版本1. 下载合适的版本（官网）（1）从这里下载18.04对应的tar包 (deb包要求cuda也是deb安装)2. TensorRT 安装（官网）（1）打开配置文件将tensorrt库添加到环境变量，另外将tensorrt的更目录加入环境变量，方便后面调试例程（2）保存并关闭文件，刷新环境变量（3）安装python的TensorRT wheel文件（4）安装 python3.6 版本的 whl 文件（5）安装python uff 的 wheel 文

在ubuntu 20.04 上安装 onnxruntime CUDA

老邹的博客

10-29

4102

onnxruntime 可以加速模型的部署，同时可以跨框架，例如源码项目位置：https://github.com/microsoft/onnxruntime 里面有一些依赖，这里直接打包，提供百度网盘的下载：链接：https://pan.baidu.com/s/1sTryvfX0sLKIoHm8aMm4Sg 提取码：be9o 解压后： ...

在ubuntu18.04上编译C++版本jsoncpp/opencv/onnxruntime且如何配置CMakelist把他们用起来~

Thomas_Cai的记忆殿堂

09-13

3104

这篇文章背景是笔者在ubuntu上编译C++代码，依赖一些包，然后需要编译并配置到CMakelist做的笔记。主要也是一直不太懂CMakellist，做个笔记以防忘记，也给读者提供一站式的参考，可能您需要的不是这几个包，但大同小异，再带上cmakelist加持，最后提供可视化远程调试教程，可以把C++玩的飞起。这篇文章将有以下内容：1. 安装编译一系列工具；2. 编译opencv；3. 编译jsoncpp；4. 编译onnxruntime；5. CMakelist配置；6. Clion远程调试C++

第一章 Autoware 1.12.0版本安装和运行Demo---（cpu版本-无CUDA）Ubuntu18.04

Kenneth666888的博客

12-02

896

autoware安装和运行demo

mmdetection3d框架安装与Demo模型运行--基于Ubuntu18.04+Cuda10.1

诗眼天涯的专栏

05-24

892

在Ubuntu18.04+CUDA10.1+Conda，安装mmdetection3d框架并运行，并基于PointPillar模型进行测试运行。

Ubuntu18.04下安装autoware1.14.0及其demo展示

weixin_58207716的博客

07-31

2991

autoware.ai.1.14.0

Ubuntu18.04安装autoware.ai

工大机器人工作室

09-06

6061

前言 Autoware.AI是世界上第一个用于自动驾驶技术的“All-in-One”开源软件，关于它的介绍就不再赘述了，感兴趣的可以去看一下知乎文章，这里主要说明一下autoware.ai的安装配置。之前在Ubuntu16.04上装过autoware，但现在开发环境已经迁到18.04了，所以重新安装一下，特此记录。顺便一提，autoware.ai已经很久没维护了，毕竟已经推出了autoware.auto,它是基于ROS2的，由此可见ROS2和autoware.auto将会是趋势，后面有机会再介绍。准备工作

Ubuntu18.04 Deepstream5.1运行环境搭建并成功运行demo

weixin_47250364的博客

10-29

2308

Ubuntu18.04 Deepstream5.1运行环境搭建安装必要的基础环境需要安装的运行环境1.清除原安装环境：如果安装Deepstream之前版本，则先卸载2.在安装DeepStream SDK之前，请输入以下命令安装必要的软件包3.下载和安装NVIDIA驱动460.32 [驱动下载](https://www.nvidia.com/download/driverResults.aspx/168347/en-us)4.下载和安装CUDA 11.1[11.5之前版本](https://developer

C++ ubuntu环境下安装编译部署环境，用onnxruntime部署ppyoloe_r模型

a486259的博客

04-19

4102

在新安装的ubuntu环境下修改源、安装gcc和cmake，编译安装opencv，安装onnxruntime环境。并编写cmakelist文件，编译与运行ppyoloe_r模型。windows环境下onnx部署ppyoloe_r模型的代码可以参考 https://blog.csdn.net/a486259/article/details/128151738，这里基于该代码进行linux适配，最终成功实现部署。

onnx ubuntu安装

Dadaist_的博客

07-29

2576

Ubuntu下安装ONNX、ONNX-TensorRT、Protobuf和TensorRT

m0_51661400的博客

12-16

3141

在这篇博文中，我们详细介绍了如何在Ubuntu环境下安装ONNX、ONNX-TensorRT、Protobuf和TensorRT，并演示了如何将ONNX模型解析到TensorRT。

ubuntu18.04.5配置OpenPCDet

01-17

为了在 Ubuntu 18.04.5 上配置 OpenPCDet 环境，需要安装多个依赖项，包括 CUDA、cuDNN、Python、PyTorch 等。首先，需要安装 CUDA 11.1 和 cuDNN 8.0.4.30，以满足 OpenPCDet 的依赖项要求。然后，使用 conda ...