python中rt_tensorRT 的安装与使用

一、安装cuda

官方推荐安装cuda10.2或者11.0，这里以安装cuda10.2为例。

根据系统情况选择合适的cuda版本，这里选择的是x86_64-CentOS7-runfile(local)

wget http://developer.download.nvidia.com/compute/cuda/10.2/Prod/local_installers/cuda_10.2.89_440.33.01_linux.run

sudo sh cuda_10.2.89_440.33.01_linux.run

安装cuda时会自动升级nvidia-driver，此时不能有程序使用gpu，否则会报错。如果没有程序使用gpu还是报错，推荐重启机器。

二、安装PyCuda

如果通过Python使用tensorRT的话，需要安装Pycuda，一般情况下只需要执行pip install pycuda就可以了。

有时安装会出现一些问题，这时就需要重新编译pycuda，参考：Installing PyCUDA on Linux

三、安装tensorRT

1、最新版本为tensorRT7，根据系统下载适合的tensorRT版本，这里下载的是TensorRT-7.0.0.11.CentOS-7.6.x86_64-gnu.cuda-10.2.cudnn7.6.tar.gz，下载地址为：https://developer.nvidia.com/nvidia-tensorrt-7x-download

2、解压缩

tar xzvf TensorRT-7.0.0.11.CentOS-7.6.x86_64-gnu.cuda-10.2.cudnn7.6.tar.gz

3、安装TensorRT wheel 文件