文章讲述了在Windows10系统中，配置不同版本CUDA(11.2,11.5,11.3)、TensorRT(8.2)以及对应的驱动，并在虚拟环境中处理yolov5转TRT时遇到的问题。关键在于确保CUDA版本与PyTorch版本的一致性，以避免WinError127的错误。解决方案包括安装与Python版本匹配的TensorRT包，并使用`export.py`脚本成功转换模型。
一、本地环境：win10 + i711700 (16)+ 3060/12G
CUDA11.2：cuda_11.2.2_461.33_win10.exe/TensorRT-7.2.3.4.Windows10.x86_64.cuda-11.1.cudnn8.1/cudnn-11.2-windows-x64-v8.1.1.33安装完cuda11.2 cudnn tensorrt后，将nvrtc64_111_0.dll nvrtc_builtins64_111_0.dl拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\bin 目录下
CUDA11.5: cuda_11.5.0_496.13_win10.exe/trt8.2/cudnn8.2, 显卡驱动用的是11.5的496.13
cuda11.3: cuda_11.3.1_465.89_win10.exe/trt8.2.5.1/cudnn8.2
多个cuda环境可兼容，调整环境变量即可，驱动共用一个
虚拟环境配置：torch1.12.1+cu113, python:3.8.16
二、虚拟环境中yolov5转trt，提示tensorrt不存在，需要安装
tensorrt官网下载GA版本，tensorrt下载虚拟环境安装对应python版本的tensorrt，比如
pip install tensorrt-8.2.5.1-cp38-non-win_amd64.whl
三、本地cuda版本要与torch中的cuda版本一致，否则会报WinErr127的错误
TensorRT: export failure 0.1s: [WinError 127]
主要解决思路是保证Cuda版本、Pytorch版本的一致性，官方仓库中的相关issue
python export.py --data data/coco128.yaml --weights xx.pt --batch 1 --img 640 640 --simplify --include onnx engine --opset 10 --device 0 转换成功
464
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
