环境
- CUDA 11.1 (11.2、11.3)
- CUDNN 8.1
下载tensorRT (匹配相应的版本)
官网地址 :https://developer.nvidia.com/nvidia-tensorrt-8x-download
选择合适的版本下载,本人下载如图所示:
下载的时tar包
安装
解压
tar zxf TensorRT-8.0.1.6.Linux.x86_64-gnu.cuda-11.3.cudnn8.2.tar.gz
存放在自己想放的目录下(也可以重命名),如:
mv TensorRT-8.0.1.6 /opt
添加环境
将下面的环境变量 添加到.bashrc文件并保存
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/opt/TensorRT-8.0.1.6/lib
激活环境
source .bashrc
复制tensorRT目录下 lib、include文件夹到系统文件夹(或者将这两个文件夹路径添加到.bashrc文件中)
sudo cp -r ./lib/* /usr/lib
sudo cp -r ./include/* /user/include
C++测试是否成功
测试代码:TensorRT-8.0.1.6/samples/sampleMNIST
本版本无需去data文件夹下载对应的数据集,自己带了,如果没有,那就下载对应的数据集
python download_pgms.py
如果文件夹下有pgm格式的图片 说明下载成功
在tensorRT目录下samples文件夹下 用sampleMNIST示例测试
编译
make
清除之前编译的可执行文件及配置文件
make clean
编译成功,执行bin目录下的可执行文件
例如:
./../../bin/sample_mnist
结果:
Python 环境
在tensorRT目录下 python文件夹下 安装相应的whl文件(前提时你有python环境),如下图:
安装
pip install pycuda
和