AI2-CUDA、CuDNN、TensorRT的详细安装教程

一、查看本机的显卡

    首先你要看你的电脑是否有NVIDIA的独立显卡，你可以在设备管理器-显示适配器中查看

    点击“开始”--找到“NVIDA Control Panel”

    点击帮助--系统信息--组件，查看NVCUDA.DLL对应的产品名称，就可以看住CUDA的版本号

二、CUDA的下载与安装

   这里选择的是CUDA11.2，要去官网 CUDA Toolkit 11.2 Downloads | NVIDIA Developer  中选择你所要安装的CUDA Toolkit，如下

    

     CUDA Toolkit Archive | NVIDIA Developer    

    我们一般选择local模式，这个包有几个G。使用这个模式就不会因为网络问题而中断安装的过程了。下载好之后双击exe文件，会显示以下窗口，我们默认OK就行。这个路径是会暂时存放安装中的缓存，安装结束后，这一些缓存会自动清除掉，所以不需要管。

    这里下载的是cuda_11.2的版本

    

    

    

点击同意并继续

选择自定义，并下一步

全选，并下一步

安装位置默认不做更改，并下一步

选中同意，并下一步

等待安装完成

安装完成并结束

接下来等待安装结束即可，安装后会存放在C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2下。

并且会自动帮你设置好两个环境变量，但是你还是需要自己手动配置bin和lib

你可以在cmd中执行nvcc -V或者nvidia-smi，如果不报错，就代表安装成功。

三、CuDNN的下载与安装

    到官网 cuDNN Archive | NVIDIA Developer下载，选择你想要的CuDNN版本。我选择的是cudnn-11.3-windows-x64-v8.2.0.53

    把下载后的压缩包进行解压，分别将cuda/include、cuda/lib、cuda/bin三个目录中的内容copy到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2对应的include、lib、bin目录下就可以了

四、TensorRT的下载与安装

    到官网 NVIDIA Developer Program Membership Required | NVIDIA Developer 下载，选择你想要的TensorRT版本。我选择的是TensorRT-8.0.3.4.Windows10.x86_64.cuda-11.3.cudnn8.2

    

     把下载后的压缩包进行解压，只需要将文件放到CUDA下的指定文件夹下即可

    将 TensorRT-8.0.3.4\include中头文件 copy 到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\include

    将TensorRT-8.0.3.4\lib 中所有lib文件 copy 到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\lib\x64

    将TensorRT-8.0.3.4\lib 中所有dll文件copy 到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.2\bin