TensorRT环境搭建

#一、tensorrt环境匹配
tensorrt各种版本的的使用相当依赖运行环境,如cuda、cudnn、python版本和nvidia驱动等,不多说,直接开始
1、查看当前cuda和cudnn版本
nvcc -V 如果出现nvcc not find 的问题可以进行一下操作,
vi ~/.bashrc 打开环境变量
将export PATH=/usr/local/cuda-11.0/bin:$PATH 添加进去
source ~/.bashrc 更新环境变量
可以看到cuda的版本如下:
cudnn一般和cuda是适配的,所以记住cuda的版本号即可
在这里插入图片描述
注:有时候可能由于驱动出现问题导致无法查看nvidia-smi
A、如果是系统自动更新驱动,可以重启服务器试一下
B、如果重启解决不了可能需要卸载旧驱动安装对应的驱动可以采用一下命令行操作快速安装ubuntu18.04/20.04驱动
nvidia-smi # 若显示找不到驱动
sudo apt-get remove nvidia* #删除旧驱动
sudo ubuntu-drivers devices #查找驱动设备型号,会弹出所有型号
sudo apt install nvidia-driver-(根据情况选择) #选择适合本机型号的驱动设备进行下载
sudo apt-get update
sudo reboot
如果上述方法不行可以选择到官网nvidia下载适合你服务器型号的驱动进行手动安装,前提是先把原来的驱动删除采用上面的删除命令
选择你所用服务器的相关信息进行查找
下载好之后将安装包放在任意位置进行安装即可:sudo apt-get install nvidia-driver-

#二、下载tensorrt相关的tar包
下载和cuda对应版本的tensorrt,可以在官网选在不同版本的tensorrt,只要支持本机cuda版本都可以,官网地址tensorrt下载,官网中现在最新比较好用的是7.0(目前最高支持的版本是python3.8)和8.0以上的版本
在这里插入图片描述
拿7.2.3.4版本的举个例子,点击进入TensorRT 7以后
在这里插入图片描述
打开TensorRT 7.2.3,可以看到很多对应操作系统以及不同压缩包方式的tensorrt下载路径
在这里插入图片描述
因为上面cuda是11.0的所以选择对应的版本的TAR包进行下载即可
#三、安装和配置环境变量
下载完成后将包放到你想指定的位置进行解压 tar -xvzf TensorRT-7.2.3.4.Ubuntu-18.04.x86_64-gnu.cuda-11.0.cudnn8.1.tar.gz
解压完成后进入该文件夹下python子文件夹,里面即是需要下载安装的对应python版本的文件,建议进入虚拟环境进行下载安装,因为虚拟环境中的python环境可能和外面的不一样,使用时一般采用虚拟环境中的python包
在这里插入图片描述
虚拟环境中的python如果3.8版本的就选择cp38这个.whl文件进行pip install ,注:如果你的python版本是3.9的,那么需要下载8.0以上版本的tensorrt的tar包进行安装
下载安装完成后还需进入系统环境变量中进行路径配置 ~/.bashrc
将trt的环境变量添加到系统环境变量中,下面两行
export LD_LIBRARY_PATH=/data/duan/TensorRT/TensorRT-7.2.3.4/lib:$LD_LIBRARY_PATH
alias trtexec=“/data/duan/TensorRT/TensorRT-7.2.3.4/bin/trtexec”
最后再次激活环境变量 source ~/.bashrc
查看tensorrt是否安装成功:dpkg -l | grep TensorRT 若未安装成功不会有任何信息弹出(若是手动安装的则dpkg不可用,我们这里即是手动安装);建议直接进入python环境,import tensorrt print(tensorrt.version)如果出现trt版本号则安装成功

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值