创建conda环境
conda create -n tensorrt python=3.5
下载tensorrt
登录:https://developer.nvidia.com/tensorrt
进入:https://developer.nvidia.com/nvidia-tensorrt-7x-download
在Tar File Install Packages For Linux x86下,选择
TensorRT 7.0.0.11 for Ubuntu 16.04 and CUDA 10.0 tar package
下载获取的文件TensorRT-7.0.0.11.Ubuntu-16.04.x86_64-gnu.cuda-9.0.cudnn7.6.tar.gz
requirements.txt
numpy==1.13.1
pyasn1===0.4.6
six==1.10.0
opencv-python==4.4.0.42
pillow==4.1.1
torch==0.4
importlib-metadata
cuda版本9.0,cudnn版本7.6.5。cudnn版本不对,会出现tenssorrt中调用的函数,在cudnn中未定义错误。
安装
tar -xvzf TensorRT-7.0.0.11.Ubuntu-16.04.x86_64-gnu.cuda-9.0.cudnn7.6.tar.gz
export TRT_RELEASE=`pwd`/TensorRT-7.0.0.11
cd $TRT_RELEASE
source activate tensorrt
sudo pip install -r requirements.txt
cd python
sudo pip install tensorrt-7.0.0.11-cp35-none-linux_x86_64.whl
验证
test.py
import tensorrt
print (tensorrt.__version__)
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$TRT_RELEASE/lib:/usr/local/cuda-9.0/lib64/
python3 test.py
7.0.0.11