onnx-tensorrt安装时遇到的问题

最新推荐文章于 2024-08-12 18:24:08 发布
最新推荐文章于 2024-08-12 18:24:08 发布
阅读量1.7k 收藏 2
点赞数 1
分类专栏： deep Learning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39610043/article/details/95938412
版权

我使用的docker镜像是 nvcr.io/nvidia/tensorrt 19.03-py3 6053535b43bc
首先安装 apt-get install libprotobuf-dev protobuf-compiler ,满足环境protobuf
下载onnx-tensorrt最新master分支,使用cmake命令如下:

cmake -DCUDA_INCLUDE_DIRS=/usr/local/cuda/include -DTENSORRT_ROOT=/opt/tensorrt .. -DGPU_ARCHS="61"

当然,我gpu是1070ti,所以是61,其余的自己查看
DCUDA_INCLUDE_DIRS也要添加,否则会有drive_type.h找不到

cv2

cv2需要一些Lib库才能运行,所以需要添加

apt-get install libsm6
apt-get install libxrender1
apt-get install libxext-dev
孟同学
关注
专栏目录
yolov8-tensorrt-vs2017
04-10
- 错误处理：编写健壮的错误处理代码，确保在遇到问题时能够给出清晰的反馈。 总结来说，yolov8-tensorrt-vs2017项目是将YOLOv8模型与TensorRT相结合，利用C++编程语言在VS2017环境中实现高性能的目标检测推理。这...
ONNX安装
gdxb666的博客
10-28 3997
用 pip 安装 onnx
onnxruntime配置
weixin_45303602的博客
09-02 5906
runtime指的是程序运行环境，是计算机系统中负责程序运行的组件。在编写程序时，需要考虑程序与运行环境之间的交互，以及程序在运行时所需的资源和环境。在不同的编程语言中，runtime的实现方式也会有所不同。例如在Java中，runtime由Java虚拟机（JVM）实现，而在C++中，runtime可能由操作系统提供的动态链接库（DLL）实现。通常情况下，程序员不需要直接操作runtime。但是，在调试程序或优化程序性能时，需要对runtime有一定的了解和掌握。
onnxruntime-gpu版本环境配置记录
最新发布
weixin_38815418的博客
08-12 966
【代码】onnxruntime-gpu版本环境配置记录。
【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(2)
2401_83703866的博客
04-09 1640
在 conda 环境中安装，不依赖于 本地主机 上已安装的 cuda 和 cudnn 版本，灵活方便。如果需要其他的版本， 可以根据 onnxruntime-gpu, cuda, cudnn 三者对应关系自行组合测试。想要 onnx 模型在 GPU 上加速推理，需要安装 onnxruntime-gpu。onnx 模型在 CPU 上进行推理，在conda环境中直接使用pip安装即可。下面，从创建conda环境，到实现在GPU上加速onnx模型推理进行举例。
pycocotools,onnxRuntime_gpu 在jetson(Orin,AGX,Xavier NX,nano,TX1,TX2)边缘端硬件通用安装方法
weixin_44312422的博客
03-20 1772
jetson(Orin,AGX,Xavier NX,nano,TX1,TX2)边缘端硬件pycocotools,onnxRuntime_gpu通用安装方法 ERROR: Could not build wheels for pycocotools, which is required to install pyproject.toml-based projects**
Docker使用--NGC服务
Fox的博客
04-12 884
非新装使用 记录以下nvidia-docker NGC 中 catalog tensorrt 出现的但是 https://ngc.nvidia.com/catalog/containers/nvidia:tensorrt/tags 版本对应和控制使用 1.docker pull nvcr.io/nvidia/tensorrt:21.03-py3 对应版本是 tensorrt 7.22 cuda 11.2 2.docker pull nvcr.io/nvidia/tensorrt:20.03-py3 对应版本
onnxruntime-gpu-1.16.0-cp38-cp38-linux-aarch64.whl.zip
06-22
标题中的“onnxruntime-gpu-1.16.0-cp38-cp38-linux-aarch64.whl.zip”是一个针对GPU优化的ONNX运行时库的压缩包，适用于Python 3.8环境...如果遇到任何问题，应查阅ONNX运行时的官方文档或社区支持，以获取解决方案。
TensorRT安装
12-21
# 如果遇到问题，可以尝试使用豆瓣源 pip install onnx==1.4.1 -i http://pypi.douban.com/simple --trusted-host pypi.douban.com ``` #### 3.3 安装PyCUDA PyCUDA提供了一种使用Python访问CUDA API的方法： ```...
树莓派安装yolov5-lite所需的onnxruntime安装包，方便
04-09
在树莓派上部署yolov5-lite，我们通常会遇到计算能力不足的问题，这时onnxruntime（ONNX运行时）就显得尤为重要。ONNX（Open Neural Network Exchange）是一个开放的模型交换格式，支持跨框架的模型共享。onnx...
深度学习模型服务端部署：Triton server+TensorRT【PyTorch格式----＞ONNX格式----＞TensorRT格式----＞利用Triton server部署】
u013250861的博客
08-01 1788
本来是想着直接用简单的Flask+TensorRT去做服务端的，但是奈何我比较懒，现在已经沉溺于Python，再去花费时间学一个Flask我估摸着时间不够，于是百度之后发现了Tritonserver，这个是NVIDIA自己做的开源产品，支持GRPC和HTTP，还说支持C API直接访问（这部分不了解，相关视频后续在官方教程里会给出）sid=493256最后说一下为什么要选择TensorRT。
使用Hexo搭建个人博客网站-02-安装Hexo
拿破仑940911
11-26 744
一、检查 Hexo 环境 打开 cmd 命令行，输入：hexo -v。 如果电脑上还没有安装 Hexo，则会如下图所示： 会提示不支持该条指令，则我们就需要按照后面的步骤一步步安装 Hexo。 如果电脑上已经安装了 Hexo，就会提示所安装 Hexo 相应的版本等信息（在我们后面完成安装之后即可看到），那么就可以直接忽略本篇博文后面的步骤了。 二、安装 Hexo 环境 在 cmd 命令行中输入：...
Tensorrt 安装及使用
zhibing_ding的博客
08-02 256
tensorrt
tensorrt的安装和使用
zhuikefeng的博客
09-21 2398
提前安装好和，登录 NVIDIA 官方网站下载和主机 CUDA 版本适配的 TensorRT 压缩包即可。以 CUDA 版本是 10.2 为例，选择适配 CUDA 10.2 的。
tensorrt安装使用教程
xiaomu_347的博客
10-19 1251
https://blog.csdn.net/zong596568821xp/article/details/86077553 https://blog.csdn.net/Tosonw/article/details/92643231
【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）
热门推荐
JLGao的博客
04-11 3万+
onnx模型部署环境创建
vs yolov5 onnx tensorrt c++
08-10
VS YOLOv5 ONNX TensorRT C是一个在深度学习领域中比较常见的技术对比问题。下面我将以300字的篇幅来回答这个问题。 首先，YOLOv5是一种基于深度学习的目标检测算法，它具有高精度和快速处理速度的优势。而ONNX（Open Neural Network Exchange）是一种用于在不同深度学习框架之间进行模型转换和共享的开放式格式，TensorRT是一个用于高效推理的深度学习库。 在使用YOLOv5的模型时，我们可以将其转换为ONNX格式，以便在不同的深度学习框架之间进行共享和使用。而TensorRT则可以进一步优化模型的推理过程，提高其处理速度和效率。 与YOLOv5 ONNX相比，YOLOv5 TensorRT C更加注重于模型的优化和加速。使用TensorRT C可以在不损失模型精度的前提下，通过对模型的计算图进行优化和剪枝，提高模型的推理速度和性能。这对于实时应用场景，尤其是边缘计算和嵌入式设备来说非常重要。 虽然YOLOv5 ONNX TensorRT C有其优势，但也存在一些限制。首先，使用TensorRT库需要进行专门的安装和配置，需要一定的技术储备。而且，模型优化过程中的一些参数调整和优化策略需要一定的经验和实践。此外，TensorRT C适用于特定硬件平台和操作系统，可能会在部署过程中遇到一些兼容性问题。 综上所述，YOLOv5 ONNX TensorRT C是一种用于深度学习模型优化和加速的技术组合，可以提高模型的处理速度和性能。然而，使用时需要注意安装和配置的复杂性，以及一些可能的兼容性问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值