CUDA10.0+cudnn7.6.5+TensorRT7.0安装笔记

CUDA10.0+cudnn7.6.5+TensorRT7.0安装笔记

由于需要在边缘计算机jetson TX2上部署神经网络，所以需要安装tensorRT实现c++调用加速后的网络进行推理。以下是安装过程。

CUDA10.0

在官网上下载deb包，注意这里cuda的安装如果选deb的话，tensorRT的安装就可以使用deb，如果cuda用的其他安装方式，如.run文件，则tensorRT不能使用deb安装。这里选择deb方便一点。按照官方指令安装即可，然后在.bashrc里添加路径

export PATH=/usr/local/cuda-10.0/bin${PATH:+:${PATH}}
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-10.0/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

cudnn

下载官方的tar包解压

tar -xzvf cudnn-10.2-linux-x64-v7.6.5.32.tgz
cd cudnn-10.2-linux-x64-v7.6.5.32
sudo cp cuda/include/cudnn.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*

TensorRT

下载deb包

sudo dpkg -i nv-tensorrt-repo-ubuntu1804-cuda10.0-trt7.0.0.11-ga-20191216_1-1_amd64.deb
sudo apt-key add /var/nv-tensorrt-repo-cuda10.0-trt7.0.0.11-ga-20191216/7fa2af80.pub
sudo apt-get update
sudo apt-get install tensorrt

python api

sudo apt-get install python3-libnvinfer-dev
sudo apt-get install uff-converter-tf

验证

dpkg -l | grep TensorRT