windows tensorrt python

已于 2022-04-17 08:58:31 修改
阅读量4.5k 收藏 1
点赞数
分类专栏： onnx 深度学习宝典 文章标签： windows 深度学习 tensorflow
于 2020-03-29 16:23:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jacke121/article/details/105180878
版权
本文档详细介绍了在Windows环境下TensorRT 8.4.x的Python API安装步骤，包括依赖项、Python SDK的安装，以及如何配置环境变量。此外，还展示了如何使用YOLOv5模型测试TensorRT的速度提升，通过导出engine文件并进行运行，验证了TensorRT的正确安装和高效运行。
摘要由CSDN通过智能技术生成

以下内容转自：

TensorRT8.4.x Python API安装配置与测试

首先必须要交代一下硬件跟依赖包的版本信息

-GPU -3050ti-Win10 x64-CUDA11.0.1-cuDNN8.2.x-TensorRT8.4.0.x-Python3.6.5-Pytorch1.7.1

然后我还下载了YOLOv5的最新版本，并测试通过如下：

Python API配置支持

我把tensorRT解压在D:\TensorRT-8.4.0.6

目录结果如下：

首先输

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AI算法网奇
关注
专栏目录
订阅专栏
Windows编译运行TensorRT-YOLOv9 （C++）
WAF
04-08 257
windows C++ 使用tensorrt对yolov9模型进行推理，使用bytetrack进行目标跟踪。
Windows上TensorRT部署记录入门
xianzhetime的博客
03-14 1212
有人下载安装软件后运行不起来，就是没有添加环境变量，有人可能会不理解，简单解释一下，软件运行其实就是代码运行，而代码是高级语言编写的，它需要经历预编译阶段展开头文件声明，去掉注释代码，替换宏定义，内联函数替换等操作，然后经历汇编代码，再经历机器代码即二进制代码，最后好几个二进制代码文件加上。我们要配置自己的项目属性文件，将需要的CUDA和cudnn信息加进去，生成.vcxproj文件，下次项目我们也可以添加这个属性文件，一劳永逸。如图，日期左侧是下载，右侧是官方安装教程，找到自己合适的版本下载安装即可。
Tensorrt安装及使用（python版本）
热门推荐
stivory的博客
01-25 1万+
Window使用zip安装后使用 TensorrtRT-8.6.1.6/bin/trtexec.exe 文件生成 tensorrt 模型文件。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。首先选择和本机nVidia驱动、cuda版本、cudnn版本匹配的Tensorrt版本。我这边的使用的流程是：pytorch -> onnx -> tensorrt。我使用的：cuda版本：11.7；我使用的：cuda版本：11.4；打印转换后的tensorrt的模型的信息。
windows 上使用纯 nvcc 命令编译 myboyhood/yolo-tensorrt 工程的过程记录
最新发布
heshiyuan1406146854的博客
07-31 776
稍做修改，虽然我不熟悉 .sln工程，但是通过 .sln工程中的 .vcxproj 文件能获取一些有用的信息，比如参与编译的 .cpp、.c文件，需要包含的头文件目录，需要链接的库的目录和库名称等，接下来就是阅读 .vcxproj 文件，转换成等价 cl 编译语句。发现确实是在用显卡了，而且也出效果了，证明编译的 exe 应该是没问题的，只是目前不清楚该程序的作用，后面慢慢研究过吧...
win10_yolov5_tensorRT
03-30
1，安装环境 CUDA10.2 张量RT7.2 OpenCV3.4（工程中已指定，不需安装） vs2015下载相关工程： : 2，生成yolov5s.wts文件 在生成yolov5s.wts前，首先需要模型。同时，需要我们安装环境。这里可以参考网上其他文章或github教程进行配置安装，这里不详加说明。 将tensorrtx-master\yolov5文件夹下的gen_wts.py拷贝到ultralytics/yolov5文件夹下 在当前目录下执行： python gen_wts.py 最终我们会在当前目录下得到一个yolov5s.wts文件。 3，vs2015环境建设 这里我们使用别人已经编好的库，下载连接： 。（注意：部分头文件，lib文件已在我之后的工程中命名，有需要的同学可以直接下载） 创建vs工程，命名为yolov5_Trt，重新连接tensorrtx-master
TensorRT8.2 使用Python API进行推理
陶将的博客
05-29 773
此篇文章是代码分享，TensorRT的基本知识点请见我的博文TensorRT介绍，里面讲述了TensorRT的工作原理和python API的介绍。
yolov8实战第三天——yolov8TensorRT部署（python推理）（保姆教学）
qq_34717531的博客
12-26 1万+
TensorRT是一种，可以为深度学习应用提供的部署推理。TensorRT可用于对超大规模数据中心、嵌入式平台或自动驾驶平台进行推理加速。TensorRT现已能支持TensorFlow、Caffe、Mxnet、Pytorch等几乎所有的深度学习框架，将TensorRT和NVIDIA的GPU结合起来，能在几乎所有的框架中进行快速和高效的部署推理。一般的深度学习项目，训练时为了加快速度，会使用多GPU分布式训练。
tensorrt 8.4.3.1版本 python库安装 whl文件
09-27
win_amd64`、`cp37-none-win_amd64`、`cp39-none-win_amd64`、`cp310-none-win_amd64`、`cp38-none-win_amd64`：这部分信息指定了Python解释器的兼容版本（CPython 3.6、3.7、3.8、3.9、3.10）和平台（Windows，AMD...
基于 TensorRT 使用 python 进行推理优化， 以YOLOv5 为例
shiter编写程序的艺术
04-21 729
TensorRT是NVIDIA推出的一个高性能的深度学习推理框架，可以让深度学习模型在NVIDIA GPU上实现低延迟，高吞吐量的部署。TensorRT支持Caffe，TensorFlow，Mxnet，Pytorch等主流深度学习框架的部署。TensorRT底层为C++库，NVIDIA为其提供了C++ API和Python API，主要在NVIDIA GPU以实现高性能的推理(Inference)加速。
YOLOv5+TensorRT+Win11(Python版)
weixin_41068924的博客
06-26 4648
YOLOv5+TensorRT+Win11(Python版)
基于python的tensorrt int8 量化yolov5 onnx模型实现
03-26
基于python的tensorrt int8 量化yolov5 onnx模型实现
python3.6 tensorrt替换包
12-29
由于tensorrt不支持python3.6,这个文件替换了相关pythonapi,支持python3.6安装和使用,但是可能不太稳定,暂时还没遇到bug
Python-利用TensorRT加速的TensorFlow模型
08-11
TensorFlow models accelerated with NVIDIA TensorRT
TensorRT教程8：使用 Python API 从头创建网络（重点）
米斯特龙的博客
06-27 1311
使用 Python API 从头创建网络（重点） 1、从头创建engine的9个基本步骤 step1：创建logger step2：创建builder step3：创建network step4：向network中添加网络层 step5：设置并标记输出 step6：创建config并设置最大batchsize和最大工作空间 step7：创建engine step8：序列化保存engine step9：释放资源 2、示例代码 #导入模块 import tensorrt as trt #step1：创建log
Windows系统安装TensorRT
轩辕霸天L
05-26 605
4. 安装./python目录下的tensorrt-8.5.1.7-cp37-none-win_amd64.whl（根据使用的python版本确定，可用conda环境）包。2）./lib下的dll复制到path\to\NVIDIA GPU Computing Toolkit\CUDA\v11.3\bin。1）./lib添加到ENV。1. 预备环境：CUDA、CUDNN等。2. 注册下载 windows版本的。
windows平台使用tensorRT部署yolov5详细介绍，整个流程思路以及细节。
qq_39333636的博客
01-31 2576
自己在网上摸索了很久的基于windows平台的tensorRT部署的问题，终于跑通了，我在找资料的过程中没有找到从思路和细节上都具备的文档，我个人觉得思路最重要，我是很多份拼凑出的思路，顺着思路（有时候会错）一点一点解决问题才得出的结果，所有我打算写这份文档，更加侧重整体逻辑思路，技术细节我理解只要解决思路正确，肯定很多人踩过坑，找一找肯定有的，当然我也会提到。
TensorRT8 meets Python(二) TensorRT快速入门介绍
人唯优的博客
03-26 717
本系列教程是重点关注如何在Python环境中转换、使用TensorRT做深度模型的推理。在上篇中，我们介绍了TensorRT在python和ubuntu环境中的部署。重点就是解决好显卡驱动、cuda、cudnn和tensorRT之间的版本对应关系。在本篇中，我们快速介绍TensorRT的入门知识，为后续的TensorRT模型部署打下基础。笔者建议还是过一遍Nvidia TensorRT官方教程，如果实在懒或者英语困难的同学，也可以看下我为大家划好的原文重点和解释。
win10 tensorrt源码编译onnx
整理ing
11-24 491
直接利用官方源码，如下图，双击trtexec.sln文件，使用vs2019。
tensorrt安装windows python
06-28
对于Windows系统和Python用户来说，安装TensorRT相对来说比较简单，但也需要一定的操作步骤，下面将详细介绍如何安装TensorRT。 首先，需要在NVIDIA官网上下载TensorRT的安装程序，这里提供的是TensorRT 5.1.5版本...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI算法网奇

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值