Tensorrt安装及使用（python版本）

已于 2024-09-03 17:15:16 修改
阅读量2.4w 收藏 122
点赞数 38
文章标签： python 开发语言 深度学习 人工智能
于 2024-01-25 16:25:02 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/stivory/article/details/135847529
版权
本文详细介绍了如何在Windows和Ubuntu系统上安装TensorRT，包括使用pip、下载文件和docker容器的方式，并展示了从PyTorch到ONNX再到TensorRT的模型转换步骤，以及如何验证和测试TensorRT引擎性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

官方的教程

tensorrt的安装：Installation Guide :: NVIDIA Deep Learning TensorRT Documentation

视频教程：TensorRT 教程 | 基于 8.6.1 版本 | 第一部分_哔哩哔哩_bilibili

代码教程：trt-samples-for-hackathon-cn/cookbook at master · NVIDIA/trt-samples-for-hackathon-cn (github.com)

Tensorrt的安装

官方的教程：

安装指南 ：： NVIDIA Deep Learning TensorRT Documentation --- Installation Guide :: NVIDIA Deep Learning TensorRT Documentation

Tensorrt的安装方法主要有：

1、使用 pip install 进行安装；

2、下载 tar、zip、deb 文件进行安装;

3、使用docker容器进行安装：TensorRT Container Release Notes

Windows系统

首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。

我使用的：cuda版本：11.4；cudnn版本：11.4

建议下载 zip 进行Tensorrt的安装，参考的教程：

windows安装tensorrt - 知乎 (zhihu.com)

Ubuntu系统

首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。

我使用的：cuda版本：11.7；cudnn版本：8.9.0

1、使用 pip 进行安装：

pip install tensorrt==8.6.1

我这边安装失败

2、下载 deb 文件进行安装

os="ubuntuxx04" 
tag="8.x.x-cuda-x.x" 
sudo dpkg -i nv-tensorrt-local-repo-${os}-${tag}_1.0-1_amd64.deb 
sudo cp /var/nv-tensorrt-local-r
最低0.47元/天 解锁文章
stivory
关注
python3.6 tensorrt替换包
12-29
由于tensorrt不支持python3.6,这个文件替换了相关pythonapi,支持python3.6安装和使用,但是可能不太稳定,暂时还没遇到bug
【TensorRT】pip安装TensorRT8
WeiY1的博客
08-21 8272
ubuntu20.04+cuda11.1+cudnn8.0.5，安装tensorrt8.3.4，并找到lib和include位置
【TensorRT】TensorRT从安装到推理——Python 环境下 MobileNetV4 三分类任务
weixin_52010459的博客
03-27 1343
我想开发一个基于深度学习的分类小软件，逐渐了解到了TensorRT在模型推理速度上的优势，经过一下午资料的查找实现了将onnx模型转为TensorRT格式模型的推理及测试过程。将实现过程记录下来方便日后查看。本文实验设备是MX350显卡 2G显存。
win10 安装TensorRT
zhaoluruoyan89的博客
11-12 1675
安装完成相应的库以后，需要注意将TensorRT-8.6.1.6文件夹下的lib\include中的文件进行如下拷贝工作，防止在运行tensorrt时候无法找到相对应的Nvinfer.dll。，选择和自己适配的TensorRT,我选择的是 TensorRT-8.6.1.6.Windows10.x86_64.cuda-11.8。注意：EA是提前发布的不稳定版本,GA是经过完备测试的稳定版。至此，windows安装TensorRT的过程就结束了。安装TensorRT文件夹中 即 的。
tensorrt安装步骤
weixin_43025542的博客
06-21 1662
安装TensorRT需要安装pycuda，执行如下命令：pip install pycuda若出现以下结果，表示安装成功。正在上传…重新上传取消注意gcc版本，当前tensorrt需要gcc版本为5.0以上查看gcc版本 gcc -v， 若低于5.0则需要升级gcc，具体步骤见如下附件文档：正在上传…重新上传取消tar -zxvf centos.tar.gz然后将里边的lib绝对路径添加到环境变量中，命令如下（以当前用户）vi ~/.bashrc# tensorrt pathexport LD_LIBRA
Python-利用TensorRT加速的TensorFlow模型
08-11
TensorFlow models accelerated with NVIDIA TensorRT
TensorRT(10):python版本安装
热门推荐
hjxu2016的博客
02-10 1万+
随着TensorRT8.0版本的发布，windows下也正式支持Python版本了，跟紧NVIDIA的步伐，正式总结一份TensorRT-python的使用经验。 一、底层库依赖 在安装TensorRT前，首先需要安装CUDA、CUDNN等NVIDIA的基本库，如何安装，已经老生常谈了，这里不再过多描述。 关于版本的选择，楼主这里： CUDA版本，楼主这里选择的是 cuda11.5 ，具体cuda版本见 https://developer.nvidia.com/cuda-toolkit-archive，可自
python 安装tensorrt
ma_9624的博客
12-10 590
tensorRT是基于CUDA的加速库，安装trnsorrt首先要确保已安装cuda，并知道cuda的版本。检验tensorrt-lean、tensorrt-dispatch是否正确安装。tensorRT安装分三部分：（-cu11：指定cuda版本）检验tensorrt是否正确安装：生成一个记录器。
TensorRT安装
weixin_51691064的博客
04-27 3032
tensorRT安装
python中使用TensorRT加速模型部署
phyllis_110的博客
03-26 1181
文件路径是...\TensorRT-10.2.0.19\python，选择适合自己的版本，安装指令是pip install tensorrt-10.2.0-cp39-none-win_amd64.whl. 注意：这里我是先进入虚拟环境，再进行的安装。在安装TensorRT之前需要明确一点的是，最好不要在现有的虚拟环境中安装，很容易与已有的库产生冲突，导致之前的程序不能用。6.（可选）由于下载pycuda时会改变之前安装的库的版本，导致我的pillow不能用了，所以我还加了一步，重新下载pillow。
tensorrt 8.4.3.1版本 python库安装 whl文件
09-27
例如，如果你的Python环境是3.8版本，那么你应该选择`tensorrt-8.4.3.1-cp38-none-win_amd64.whl`来安装。 安装TensorRT的Python库通常包括以下步骤： 1. 确保你已经安装了NVIDIA驱动程序和CUDA toolkit，因为...
tensorrt安装后测试python代码+onnx模型
02-16
例如，在Python代码中，可以使用以下代码来打印TensorRT的版本： ```python import tensorrt as trt print(trt.__version__) ``` 接下来，要测试ONNX模型是否能够成功加载到TensorRT中并执行推理，需要先确保已经...
Jetson安装Python3.8 tensorrt库
JulyLi2019的博客
08-09 1937
Jetson安装Python3.8 tensorrt库，需要确保正确Python与TensorRT版本，你的编译环境与目标平台（ARM架构）一致，避免使用不兼容的x86_64编译配置。后续使用python调用tensorrt与cuda进行推理速度还是很快的，能够达到50帧，这在板端也是很炸裂的存在！！！如果阅读本文对你有用，欢迎一键三连呀！！！2024年8月9日12:23:36。
ubuntu18.04环境下TensorRT安装+python3.8
fl_2016的博客
07-28 1621
0 说明 本人安装TensorRT环境踩了一些坑，记录一下。主要针对出现的安装问题进行解决。正常安装步骤基本安装他人写的即可。 1 正常情况 正常按照官网或者参考网站安装即可。 官网：https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-tar 参考 ：https://blog.csdn.net/zong596568821xp/article/details/86077553 上述如果可
TensorRT的安装：一步一步教会你如何安装TensorRT
Science prince的博客
08-10 1753
TensorRT（Tensor Runtime）是由NVIDIA开发的一个用于深度学习推理（inference）优化的库，它可以在NVIDIA的GPU上加速神经网络模型的推理过程，从而提高模型的性能和效率。安装完成后，需要将CUDA的安装路径添加到系统环境变量中，以便系统能够找到CUDA的库文件。根据你安装的CUDA版本，将CUDNN的库文件复制到CUDA的安装目录中。要使用TensorRT，首先需要安装NVIDIA的CUDA和cuDNN库，并根据NVIDIA官方文档安装TensorRT。
[tensorrt] --- tensorrt安装及使用
M2嵌入式
09-05 627
本教程基于ubuntu20.04，默认安装好了nVidia驱动、cuda版本、cudnn版本，选择与之匹配的Tensorrt安装。
安装 TensorRT
weixin_41046245的博客
12-20 4464
此外，如果您已经安装了 TensorRT C++ 库，请使用 Python 包索引版本将安装此库的冗余副本，该库 可能不可取。上面的命令将拉入所有必需的 CUDA 来自 PyPI 的 Python wheel 格式的库和 cuDNN，因为它们是 TensorRT Python wheel 的依赖关系。此外，如果您有以前的 已安装的版本。如果前面的 Python 命令有效，那么您现在应该能够运行 任何 TensorRT Python 示例，以进一步确认您的 TensorRT 安装正在工作。
python使用TensorRT引擎
Major_S的博客
10-18 1392
python使用TensorRT引擎。
stivory
最新发布
03-31
### Stivory简介 Stivory 是一种专注于数据存储与管理的技术方案，其核心理念在于提供高效的数据访问机制以及灵活的扩展能力[^1]。它通常被应用于大规模分布式系统中，能够支持高并发环境下的快速读写操作。 #### 技术特点 - **高性能**: 通过优化内存管理和磁盘I/O调度算法，显著提升数据处理速度。 - **可伸缩性**: 支持水平扩展架构设计，允许随着业务增长动态增加节点数量而不影响整体性能表现。 - **一致性保障**: 基于Paxos 或 Raft 协议实现强一致性的副本同步功能，在网络分区情况下仍能保持服务可用性和数据可靠性[^2]。 以下是基于Python模拟的一个简单例子来展示如何创建并初始化一个基本版stivory实例： ```python class SimpleStivory: def __init__(self): self.data_store = {} def put(self, key, value): """Insert or update a key-value pair.""" self.data_store[key] = value print(f"Inserted {key}: {value}") def get(self, key): """Retrieve the value associated with given key.""" val = self.data_store.get(key, None) if not val: print("Key does not exist.") else: print(f"Fetched Value: {val}") return val # Example Usage of above class definition. if __name__ == "__main__": stvry_obj = SimpleStivory() stvry_obj.put('test_key', 'hello world') fetched_val = stvry_obj.get('test_key') ``` 此代码片段仅作为概念验证用途，并未完全体现实际生产环境中所涉及复杂逻辑如持久化层构建、错误恢复策略制定等方面的内容[^3]。
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值