windows cuda11.x cudnn8.x TensorRT8.x 环境配置

win10 CUDA11 cudnn TensorRT开发环境的搭建与测试

cuda，cudnn和tensorrt安装

cuda下载地址：

https://developer.nvidia.com/cuda-toolkit-archive

cudnn下载地址：

https://developer.nvidia.com/rdp/cudnn-archive

tensorrt下载地址：

https://developer.nvidia.com/nvidia-tensorrt-8x-download

请注意cudnn版本最好是8.2.1！！

接下来正常安装cuda即可。
将cudnn和tensorrt bin、include、lib复制到cuda对应文件夹下。lib选择x64。复制文件夹进去就行，会自动合并

cuda，cudnn和tensorrt安装测试

测试cuda，cudnn安装

正常情况下终端输入

nvcc -V

可得到如下输出

如没有得到如上输出，请确保

C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin

已经添加到系统环境变量。

也可用如下代码测试cuda和cudnn版本。

import torch
print(torch.__version__)

print(torch.version.cuda)
print(torch.backends.cudnn.version())

安装tensorrt库

如果需要使用python tensorrt，则需要进入如下路径：

pip install tensorrt-8.4.0.6-cp37-none-win_amd64.whl

用如下代码测试tensorrt

import tensorrt as trt

if __name__ == "__main__":
    print(trt.__version__)
    print("hello trt!!")

如果运行tensorrt，报错找不到nvinfer.dll和nvparsers.dll Could not find: nvinfer.dll. Is it on your PATH?

解决方法如下

https://blog.csdn.net/qq_44523137/article/details/123178290?spm=1001.2014.3001.5502

成功运行结果如下

也可生成可执行demo文件

进入如下路径，右键使用vs打开sample_mnist.sln

右键重新生成
如果遇到以下错误，说明缺乏Windows SDK 版本10.0.17134.0。安装此版本即可。

1>------ 已启动全部重新生成: 项目: sample_mnist, 配置: Release x64 ------
1>C:\Program Files (x86)\Microsoft Visual Studio\2017\Community\Common7\IDE\VC\VCTargets\Microsoft.Cpp.WindowsSDK.targets(46,5): error MSB8036: 找不到 Windows SDK 版本10.0.17134.0。请安装所需的版本的 Windows SDK 或者在项目属性页中或通过右键单击解决方案并选择“重定解决方案目标”来更改 SDK 版本。
1>已完成生成项目“sample_mnist.vcxproj”的操作 - 失败。
========== 全部重新生成: 成功 0 个，失败 1 个，跳过 0 个 ==========

进入bin路径，会多出来sample_mnist.exe，终端进入bin路径，运行以下代码（路径换成你自己的）

sample_mnist.exe D:\download\tensorrt\TensorRT-8.4.0.6.Windows10.x86_64.cuda-11.6.cudnn8.3\TensorRT-8.4.0.6\data\mnist\0.pgm

window下配置cuda cudnn TensorRT 环境是不是也很简单呢！