再装TensorRT

最新推荐文章于 2024-09-05 18:38:47 发布
最新推荐文章于 2024-09-05 18:38:47 发布
阅读量448 收藏
点赞数
文章标签： 深度学习 ubuntu
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/tiqiudeshaomai/article/details/124905054
版权

Ubuntu上 TensorRT 8.2.3 安装

距离上次安装tensorrt已经过了一年左右时间了，tensorrt也从当时的7.2到了现在的8.4 了， 这次选用TensorRT8.2.3，因为前段时间有个trt和天池举办的活动用到的就是8.2.3看能不能从中学到点东西

下载

首先进入TRT823安装网页：link

优先选用tar安装，原因是更加灵活，可以安装多个版本的trt，但是选择tar安装的话要求你的cuda和cudnn是run

trt要求对应上cuda和cudnn的版本：

在这里插入图片描述

可以看到cudnn要求为821，cuda可以多种，这里选11.2.2，也就是图中的11.2.updata2

cuda下载地址：link

最低0.47元/天 解锁文章
tiqiudeshaomai
关注
yolov8实战第六天——yolov8 TensorRT C++ 部署——（踩坑，平坑，保姆教程）
qq_34717531的博客
01-17 1万+
TensorRT 通过优化深度学习模型来提高推理速度，减少延迟。这对于实时处理应用（如视频分析、机器人导航等）至关重要。：TensorRT 优化了模型以在GPU上高效运行，这意味着更低的内存占用和更高的吞吐量。对于资源受限的环境或在多任务并行处理的情况下，这是一个显著优势。：C++ 是一种跨平台语言，配合 TensorRT，可以在多种硬件和操作系统上部署深度学习模型，包括嵌入式设备和服务器。：TensorRT 提供了精确的数学和统计方法来减少浮点运算误差，这对于确保深度学习应用的准确性和稳定性至关重要。
TensorRT-8.2.3.0.Windows10.x86_64.cuda-10.2.cudnn8.2.zip
09-20
TensorRT-8.2.3.0.Windows10.x86_64.cuda-10.2.cudnn8.2.zip为tensorrt开发包
TensorRT-8.2.4.2.Windows10.x86_64.cuda-11.4.cudnn8.2安装包
04-13
TensorRT是可以在NVIDIA各种GPU硬件平台下运行的一个C++推理框架。我们利用Pytorch、TF或者其他框架训练好的模型，可以转化为TensorRT的格式，然后利用TensorRT推理引擎去运行我们这个模型，从而提升这个模型在英伟达GPU上运行的速度。速度提升的比例是比较可观的。TensorRT是由C++、CUDA、python三种语言编写成的一个库，其中核心代码为C++和CUDA，Python端作为前端与用户交互。当然，TensorRT也是支持C++前端的，如果我们追求高性能，C++前端调用TensorRT是必不可少的。
【Ubuntu版】TensorRT安装教程（tar包方式）
热门推荐
IT菜鸟
09-16 1万+
一、参考资料 TensorRT介绍、安装和测试 二、系统环境 系统：Ubuntu16.04 显卡：NVIDIA GeForce GTX 1650,4GB CUDA：11.0.207 cuDNN：8.0.5 显卡驱动：NVIDIA-SMI 470.63.01 TensorRT：7.1.3.4 python:3.7.3 conda：4.10.3 三、准备工作 TensorRT下载 TensorRT文档 TensorRT 7.1.3.4 TAR压缩包下载 TensorRT 7.1.3.4文档 TensorRT
[tensorrt] --- tensorrt安装及使用
最新发布
M2嵌入式
09-05 305
本教程基于ubuntu20.04，默认安装好了nVidia驱动、cuda版本、cudnn版本，选择与之匹配的Tensorrt安装。
Ubuntu TensorRT安装
ytusdc的博客
07-03 2369
到graphsurgeon目录下,安装graphsurgeon，
Tensorrt安装及使用（python版本）
stivory的博客
01-25 1万+
Window使用zip安装后使用 TensorrtRT-8.6.1.6/bin/trtexec.exe 文件生成 tensorrt 模型文件。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。我这边的使用的流程是：pytorch -> onnx -> tensorrt。我使用的：cuda版本：11.7；我使用的：cuda版本：11.4；打印转换后的tensorrt的模型的信息。
Tensorrt的安装、模型转换、推理demo编写
qq_40105923的博客
03-15 935
Tensorrt的安装；如果单纯考虑是调用该库的话，python下的话，直接用pip install tensorrt便可；若是为了使用trtexec将onnx转为trt或者engine的话，需要手动来安装了。首先要依据你的cuda版本来确定Tensorrt的版本来安装；找到Tensorrt页面选择相应的版本，本文是选择的Tensorrt8.5.1.7进行安装的。至此，可以将onnx模型转换为Tensorrt模型了;该版本推理需要安装Tensorrt与pycuda两个库；一、Tensorrt的安装。
Jetson Orin Nano开发对应的Tensorrt 8.2.3.0安装包
01-18
版本为8.2.3.0的TensorRT对应的whl文件
TensorRT部署yoloV5源码
12-23
这篇关于“TensorRT部署yoloV5源码”的资源，旨在指导用户如何将训练好的YOLOv5模型整合到TensorRT中，以实现更快的预测速度。在CSDN博客文章（https://blog.csdn.net/Z960515/article/details/121975944）中，作者...
TensorRT4.0指南
04-06
TensorRT是NVIDIA推出的一款深度学习推理加速器，专为优化深度学习模型在GPU上的运行性能而设计。TensorRT4.0是一个重要的版本更新，为开发者提供了一系列新的特性和改进，使其能够在保持模型准确性的同时，大幅提高...
TensorRT-8.2.3.0.Windows10.x86-64.cuda-11.4.cudnn8.2.zip
11-21
TensorRT 8.2 GA Update 2 for Windows 10 and CUDA 11.0, 11.1, 11.2, 11.3, 11.4 and 11.5 ZIP Package
linux 环境下TensorRT 环境安装步骤记录
wumingshi159的博客
10-17 1913
发现是对的上的，但是！每次运行最后一句话“sudo apt-get -y install cuda”，就会给我把驱动版本切到520版本，且软件和更新里面也会改变，然后内核版本和GPU版本就对不上了，最后就安装失败。千算万算，又失败了，查错误日志，报错“Install of nvidia-fs failed, quitting”，百度说是重复安装，进/usr/local/下区看果然还有cuda12.2的残余，按照。12.0，网上也有装多CUDA环境的教学，但保险起见，暂不选择，后续可能尝试。
（官方教程笔记）TensorRT 教程 | 基于 8.2.3 版本 | 第二部分
qq_22487889的博客
01-28 599
五个常用的辅助工具
tensorrt_v8.2.3.0与onnx_v1.14.0的mmdeploy_v1.14.0环境配置搭建
weixin_59568707的博客
09-12 368
Ubuntu20.04基于TensorrRT、ONNX的mmdeploy环境配置
（官方教程笔记）TensorRT 教程 | 基于 8.2.3 版本 | 第一部分
qq_22487889的博客
01-13 1484
TensorRTB站官方教程
TensorRT(8):python版本安装，CUDA11.0，win10
weixin_45819759的博客
05-05 2259
在安装TensorRT前，首先需要安装CUDA、CUDNN等NVIDIA的基本库，如何安装，已经老生常谈了，这里不再过多描述。关于版本的选择，楼主这里：CUDA版本，楼主这里选择的是 cuda11.0 ，具体cuda版本见，可自行下载。CUDNN版本，选择 cudnn-11.0-windows-x64-v8.2.1.32，官网下载需要先注册账号，pycuda 选择 11.4。
mmdeploy框架环境配置教程
Christo的博客
10-08 1047
mmdeploy框架环境配置教程
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值