30系列显卡安装tensorRT8.4.1.5

准备工作

硬件：
一张30系列及以上的NVIDIA显卡
软件包下载：
链接：https://pan.baidu.com/s/1j4tiKhuiPLwiVp5LaP0nYg
提取码：sbmw

软件安装（以3060Ti显卡为例）

1.安装NVIDIA显卡驱动>511.65
下载链接：link.
2.安装cuda_11.6.2_511.65_windows.exe

3.解压cudnn-windows-x86_64-8.4.1.50_cuda11.6-archive.zip压缩包里面的文件，放到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6目录下

4.解压TensorRT-8.4.1.5.Windows10.x86_64.cuda-11.6.cudnn8.4.zip下的文件到C盘根目录下，并复制其中的include目录下文件到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\include下。将lib目录下的所有lib文件复制l到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\lib\x64下，dll文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin下。


5.解压zlib123dllx64.zip下的dll_x64文件夹下的zlibwapi.dll文件到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.6\bin下
6.python接口安装
（可不装，若使用python版本的tensorrt，则此为必装项）
根据python版本选择不同的whl安装，这里选择python3.9

pip install C:\TensorRT-8.4.1.5\python\tensorrt-8.4.1.5-cp39-none-win_amd64.whl

扩展包安装：
安装python的uff包，则可以支持TensorFlow模型转化
安装pyton graphsurgeon包，则可以支持自定义结构
安装onnx_graphsurgeon包，则可以支持onnx结构

pip install C:\TensorRT-8.4.1.5\uff\uff-0.6.9-py2.py3-none-any.whl
pip install C:\TensorRT-8.4.1.5\graphsurgeon\graphsurgeon-0.4.6-py2.py3-none-any.whl
pip install C:\TensorRT-8.4.1.5\graphsurgeon\graphsurgeon-0.4.6-py2.py3-none-any.whl

安装pycuda

pip install pycuda-2022.1+cuda116-cp39-cp39-win_amd64.whl

测试python和C++使用tensorrt

1.C++版本
使用tensorRT8.4.1.5自带的C++测试程序检查是否安装成功（需要提前安装visual studio）
用visual studio打开C:\TensorRT-8.4.1.5\samples\sampleMNIST\sample_mnist.sln项目，生成并运行代码。

编译通过并能够运行测试程序，并且调试控制台出现如下界面，则说明安装成功

2.python版本
使用tensorRT8.4.1.5自带的python测试程序检查是否安装成功
终端运行如下代码

python3 C:\TensorRT-8.4.1.5\samples\python\engine_refit_mnist\sample.py

若能够成功运行，并输出以下运行结果，则说明安装成功