win10环境安装torch2trt包

最新推荐文章于 2024-03-06 21:27:33 发布
最新推荐文章于 2024-03-06 21:27:33 发布
阅读量760 收藏 2
点赞数
分类专栏： 深度学习 文章标签： python 深度学习 开发语言
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ZZhangYajuan/article/details/127066756
版权

1、cuda

查看版本：控制面板-帮助-组件

在这里插入图片描述

 下载安装

CUDA Toolkit 11.6 Downloads | NVIDIA Developer

2、cudnn

下载解压

cuDNN Download | NVIDIA Developer

将三个bin\include\lib文件夹中的相关文件拷贝到CUDA安装位置的bin\include\lib文件夹中。

默认CUDA路径为：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6

验证

运行：C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\extras\demo_suite>bandwidthTest.exe

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\extras\demo_suite>deviceQuery.exe
均显示PASS

3、TensorRT

下载

NVIDIA TensorRT 8.x Download | NVIDIA Developer

安装whl文件

pip install D:\chorm-download\TensorRT-8.4.1.5.Windows10.x86_64.cuda-11.6.cudnn8.4\TensorRT-8.4.1.5\python\tensorrt-8.4.1.5-cp38-none-win_amd64.whl 
cp38依据环境使用的python版本
pip install D:\chorm-download\TensorRT-8.4.1.5.Windows10.x86_64.cuda-11.6.cudnn8.4\TensorRT-8.4.1.5\graphsurgeon\graphsurgeon-0.4.6-py2.py3-none-any.whl 
pip install D:\chorm-download\TensorRT-8.4.1.5.Windows10.x86_64.cuda-11.6.cudnn8.4\TensorRT-8.4.1.5\onnx_graphsurgeon\onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl
pip install D:\chorm-download\TensorRT-8.4.1.5.Windows10.x86_64.cuda-11.6.cudnn8.4\TensorRT-8.4.1.5\uff\uff-0.6.9-py2.py3-none-any.whl
验证：

运行sample.py

TensorRT-8.4.3.1\samples\python\network_api_pytorch_mnist\sample.py

4、torch2trt

GitHub - NVIDIA-AI-IOT/torch2trt: An easy to use PyTorch to TensorRT converter

提示：ModuleNotFoundError: No module named ‘pycuda‘

通过 pip 默认安装的是最新版本，可能和 cuda 版本不一致

https://www.lfd.uci.edu/~gohlke/pythonlibs/#pycuda 

下载对应自己系统 cuda 版本的 pycuda 的.whl 文件，手动安装

嗯呢嗯呢
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
torch2trt 是一个易于使用的PyTorch到TensorRT转换器-python
06-18
torch2trt 是一个易于使用的PyTorch到TensorRT转换器，它使用TensorRT Python API实现 torch2trt torch2trt 是 PyTorch 到 TensorRT 的转换器，它利用了 TensorRT Python API。 转换器易于使用 - 使用单个函数调用 torch2trt 转换模块 易于扩展 - 用 Python 编写您自己的层转换器并使用 @tensorrt_converter 注册 如果您发现问题，请告诉我们！ 请注意，此转换器对 TensorRT / PyTorch 的覆盖范围有限。 我们创建它主要是为了轻松优化 JetBot 项目中使用的模型。 如果您发现转换器对其他型号有帮助，请告诉我们。 用法 下面是一些用法示例，更多信息请查看 notebook。 转换 import torch from torch2trt import torch2trt from torchvision.models.alexnet import alexnet # 创建一些常规的 pytorch 模型... model = alexn
【Win10安装Tensorrt和torch2trt】
dally2的博客
01-02 1310
Win10安装tensorrt和torch2trt
torch2trt压缩包
07-22
深度学习模型转换安装包
Windows下安装torch资源整合
irene_1996的博客
07-31 642
这里写自定义目录标题https://github.com/torch/torch7/wiki/Windows使用虚拟机（推荐）二进制下载从源头构造一个torch https://github.com/torch/torch7/wiki/Windows 首先这个博客一定要看的，讲的很详细，也把利弊都说清楚了。目前有多个方法可在Windows上运行Torch。最简单的方法是在虚拟机中运行Ubuntu并在其中安装Torch，这样，一切都可以正常工作，但是缺点是很可能会失去GPU加速。另一种选择是从论坛下载并尝试构
torch2trt：易于使用的PyTorch到TensorRT转换器
02-25
火炬2trt torch2trt是一个使用TensorRT Python API的PyTorch到TensorRT转换器。 转换器是 易于使用-通过单个函数调用torch2trt转换模块 易于扩展-用Python编写自己的层转换器，并在@tensorrt_converter注册 如果您发现问题，请！ 请注意，此转换器对TensorRT / PyTorch的覆盖范围有限。 我们创建它主要是为了轻松优化项目中使用的模型。 如果您发现转换器对其他型号有用，请。 用法 以下是一些使用示例，有关更多信息，请查看。 转变 import torch from torch2trt import torch2trt from torchvision . models . alexnet import alexnet # create some regular pytorch model... model
torch2trt:易于使用的PyTorch到TensorRT转换器
05-11
火炬2trt 您在TensorRT中使用或希望使用哪些模型？ 随时加入的讨论。 torch2trt是一个使用TensorRT Python API的...from torch2trt import torch2trt from torchvision . models . alexnet import alexnet # create s
朝圣者项目：torch2trt，将pytorch模型快速转换为TensorRT引擎。-C/C++开发
05-27
该项目由torch2trt和torch2trt_dynamic分叉，此项目的目的是提供一种将pytorch模型直接转换为TensorRT引擎的朝圣者项目。 TensorRT引擎。 如果您的模型是基于pytorch构建的，则可以加快您的项目的工作速度；我们已经...
win10_yolov5_tensorRT.rar
12-19
自己辛苦整理的原创yolov5+deepsort，纯C++实现。支持答疑，一直做有意义的事情； 多目标跟踪，用C++实现，部署到Nvidia上，tensorrt加速，最新的yolov5部署，支持s,m,l模型和int8,FP16等选择，而且拿来即用，自己再win10安装上驱动可以立即使用，不用在自己配置，支持答疑。自己辛苦整理的，求大佬打赏一顿饭钱。苦苦苦、平时比较比忙，自己后期会继续发布真实场景项目；欢迎下载。
Ubuntu下TensorRT的安装和torch2trt的配置及使用
weixin_44077524的博客
03-04 4031
tensorrt的安装和torch2trt的配置以及使用
安装torch2trt 和TensorRT 踩坑记录
热门推荐
下大禹了的博客
05-08 1万+
以前一直以为pytorch模型转tensorrt的话，需要先转onnx才行，突然发现还有torch2trt这个东东，可以直接转torch模型为tensorrt。 安装torch2trt torch2trt下载地址：https://github.com/NVIDIA-AI-IOT/torch2trt readme上有安装说明，按他说的干就是，安装中出了一个问题，在执行sudo python setu...
使用python setup.py install后import包出现ModuleNotFoundError
m0_46336568的博客
06-13 1261
直接使用python setup.py install为本地安装，安装的路径没有添加到环境变量中，需要执行。或者使用python setup.py install时查看安装路径。以安装torch2trt为例，使用源码安装。如果使用torch2trt。解决方案为找到安装包的位置。最后添加到环境变量中。
No module named ‘torch‘解决办法
最新发布
qq_44825854的博客
03-06 7408
Traceback (most recent call last): File "/hy-tmp/Pytorch-UNet-master/Pytorch-UNet-master/train.py", line 6, in <module> import torch ModuleNotFoundError: No module named 'torch'怎么办？
tensorrt安装教程
qq_33980935的博客
04-22 8956
1、查看cuda与cudnn的版本 nvcc- V 2、在tensorrt官网上查找对应版本的tensorrt https://developer.nvidia.com/nvidia-tensorrt-download 下载并解压缩至自己期望的目录中 3、添加环境变量 打开bashrc文件 sudo ~/.bashrc 在bashrc文件中添加环境变量 #tensort export LD_LIBRARY_PATH=/home/***/TensorRT-7.0.0.11.Ubuntu-18.04.x86
python windows10 安装 tensorrt、torch2trt
you 是 mine
10-22 1229
运行tensorrt显示找不到nvinfer.dll和nvparsers.dll，要么没有复制，要么环境变量没有添加。EA 版本代表抢先体验，GA 是稳定版。下载同cuda对应的版本。
【TensorRT】torch2trt安装与使用简例
豆芽菜
05-02 5979
安装： git clone https://github.com/NVIDIA-AI-IOT/torch2trt cd torch2trt python setup.py install 简单使用： Basic Usage - torch2trt (nvidia-ai-iot.github.io) Conversion You can easily convert a PyTorch module by callingtorch2trtpassing example data as inpu..
极智AI | ubuntu 配置和使用 torch2trt
极智视界
08-10 1570
本教程详细记录了ubuntu上配置使用 torch2trt 的方法。
（3）torch2trt等安装
chencaw的专栏
04-28 1452
针对nano arm64位 下载地址 Links for opencv-python
Win10+Torch1.9+CUDA11.1成功配置YOLOX预测环境
qq_44442727的博客
08-26 2718
因为windows使用较多，所以想在上面装一个pytorch环境进行学习，之前我根据个人笔记本电脑显卡型号已成功安装了显卡驱动和CUDA，安装最新版pytorch（1.9）也可以调用GPU，后面直接拿YOLOX跑了一下，发现问题还是比较多，但所幸都解决了，在这里除了记录一下个人经验，也给大家分享一下踩坑日记，给有兴趣的伙伴减少摸索时间，提高效率。 一、首先是在Win10上成功调用GPU，我的相关软件安装过程参考博客： https://blog.csdn.net/qq_44442727/article/det
安装torch2trt
08-29
安装torch2trt有以下几个步骤： 1. 首先，你需要克隆torch2trt的GitHub仓库并安装它。在命令行中运行以下命令： ``` git clone https://github.com/NVIDIA-AI-IOT/torch2trt cd torch2trt python setup.py install ``` 这将克隆项目源代码并安装torch2trt。 2. 接下来，你需要安装一些依赖项。在命令行中运行以下命令： ``` pip install onnx cython ``` 这将安装ONNX和Cython。 3. 然后，你需要安装pycuda。你可以从以下链接下载pycuda的离线安装包并进行安装：[https://pypi.org/project/pycuda/2022.1/#history](https://pypi.org/project/pycuda/2022.1/#history) 4. 最后，你需要安装TensorRT。你可以从NVIDIA开发者网站的以下链接下载TensorRT：[https://developer.nvidia.com/tensorrt](https://developer.nvidia.com/tensorrt) 完成上述步骤后，你就成功地安装了torch2trt。你可以开始使用它来将PyTorch模型转换为TensorRT模型进行推理了。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [【TensorRT】torch2trt安装与使用简例](https://blog.csdn.net/dou3516/article/details/124538557)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* *3* [Win10 安装 Tensorrt和torch2trt教程](https://blog.csdn.net/sanxiaw/article/details/127882541)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

嗯呢嗯呢

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值