tensorrt5版本_TensorRT安装

环境与版本说明ubuntu 16.04

CUDA 10.0

cudnn 7.6.5

gcc 5.4

python 3.5

pytorch 1.1

tensort 6.0.1

安装流程

1. 安装CUDA 10.0

略

2. 安装cudnn 7.6.5

2.1 查看cudnn版本

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

2.2 下载cudnn

2.3 删除旧版本

sudo rm -rf /usr/local/cuda/include/cudnn.h

sudo rm -rf /usr/local/cuda/lib64/libcudnn*

2.4 安装新版本

cd进入刚才解压的cuda文件夹

sudo cp include/cudnn.h /usr/local/cuda/include/

sudo cp lib64/lib* /usr/local/cuda/lib64/

2.5 建立软链接

cd /usr/local/cuda/lib64/

sudo chmod +r libcudnn.so.7.6.5

sudo ln -sf libcudnn.so.7.6.5 libcudnn.so.7

sudo ln -sf libcudnn.so.7 libcudnn.so

sudo ldconfig

2.6 测试验证

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

结果如下表示成功

3. 切换gcc版本至5.4

3.1 安装gcc5

sudo apt-get install gcc-5 gcc-5-multilib

sudo apt-get install g++-5 g++-5-multilib

3.2 设置优先级

sudo update-alternatives --install /usr/bin/gcc gcc /usr/bin/gcc-5 50

sudo update-alternatives --install /usr/bin/g++ gc++/usr/bin/g++-5 50

3.3 查看gcc可选版本与当前版本

sudo update-alternatives --config gcc

查看gcc版本

gcc -v

4. anaconda创建py35-pytorch1.1-trt6环境

4.1 创建anaconda环境

conda create -n py35-pytorch1.1-trt6 python=3.5

4.2 进入环境安装pytorch1.1.0

source activate py35-pytorch1.1-trt6

conda install pytorch==1.1.0 torchvision==0.3.0 cudatoolkit=10.0 -c pytorch

5. 安装PyCUDA和onnx

source activate py35-pytorch1.1-trt6

# make sure nvcc is in your PATH

pip install 'pycuda>=2019.1.1'

pip install --no-binary onnx 'onnx==1.5.0'

6. 安装TensorRT 6.0.1

# 在home下新建文件夹，命名为tensorrt，然后将下载的压缩文件拷贝进来解压

tar xzvf TensorRT-6.0.1.5.Ubuntu-16.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz

# 解压得到TensorRT-6.0.1.5的文件夹，将里边的lib绝对路径添加到环境变量中

gedit ~/.bashrc

# 添加

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/jason/tensorrt/TensorRT-6.0.1.5/lib

# 生效

source ~/.bashrc

# 进入py35-pytorch1.1-trt6

source activate py35-pytorch1.1-trt6

#安装TensorRT

cd TensorRT-6.0.1.5/python/

pip install tensorrt-6.0.1.5-cp35-none-linux_x86_64.whl

#安装UFF，这个与tensorflow相关，可以不装

cd TensorRT-6.0.1.5/uff

pip install uff-0.6.5-py2.py3-none-any.whl

#安装graphsurgeon

cd TensorRT-6.0.1.5/graphsurgeon

pip install graphsurgeon-0.4.1-py2.py3-none-any.whl

7. 测试

# 进入python环境

source activate py35-pytorch1.1-trt6

python

# 测试，不报错误则安装成功

import tensorrt