安装TensorRT
需要安装pycuda,执行如下命令:
pip install pycuda
若出现以下结果,表示安装成功。
注意gcc版本,当前tensorrt需要gcc版本为5.0以上
查看gcc版本 gcc -v, 若低于5.0则需要升级gcc,具体步骤见如下附件文档:
- 解压tar文件,执行以下步骤:
tar -zxvf centos.tar.gz
然后将里边的lib绝对路径添加到环境变量中,命令如下(以当前用户)
vi ~/.bashrc
# tensorrt path
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/appadmin/tool/TensorRT-6.0.1.5/lib
source ~/.bashrc
- 安装对应whl文件:
cd TensorRT-6.0.1.5/python
pip install tensorrt-6.0.1.5-cp36-none-linux_x86_64.whl
cd TensorRT-6.0.1.5/uff
pip install uff-0.6.5-py2.py3-none-any.whl
cd TensorRT-6.0.1.5/graphsurgeon
pip install graphsurgeon-0.4.1-py2.py3-none-any.whl
- 添加库和头文件到系统路径下,避免加载时出现找不到tensorrt的库,执行命令如下:
# TensorRT路径下
sudo cp -r ./lib/* /usr/lib
sudo cp -r ./include/* /usr/include
测试结果如下图所示,若导入模块不报错,表明安装正确。
可能存在问题
1. 若执行过程中报pillow_version错误,直接升级pillow即可,执行命令如下:
pip install pillow --upgrade
- 若出现ImportError: libcublas.so.10.0: cannot open shared object file: No such file or directory。 表示cuda安装时未建立软链,具体执行命令如下:
cd /usr/local/cuda/lib64/
sudo chmod +r libcudnn.so.7.5.0
sudo ln -sf libcudnn.so.7.5.0 libcudnn.so.7
sudo ln -sf libcudnn.so.7 libcudnn.so
sudo ldconfig