【TensorRT】pip安装TensorRT8

pip安装TensorRT

(我的环境ubuntu20.04+cuda11.1+cudnn8.0.5)
因为Nvidia官方给的tar、deb链接基本都是支持的最新版的cuda,直接下载的是支持cuda-11.6以及cuda10.2的tensorrt版本,对于其他版本的cuda不是很友好,(我没有找到支持旧版本cuda的链接),所以就用pip下载,安装方法按照nvidia官方提供的说明即可,基本不会出现问题。
这里简单搬运一下:

1、安装之前

1.1 先更新pip安装工具

python3 -m pip install --upgrade setuptools pip

1.2 安装 nvidia-pyindex 模块

python3 -m pip install nvidia-pyindex

2、开始安装

python3 -m pip install --upgrade nvidia-tensorrt

3、验证

python
>>>impmort tensorrt
>>>print(tensorrt.__version__)
8.4.3.1   (输出tensorrt的版本)
>>>assert tensorrt.Builder(tensorrt.Logger())

如果没报错的话就没问题,出现问题的话可以到tensorrt官方文档看一下

4、找lib和include路径!

到这里还没结束,在之后需要编译的时候,需要指定tensorrt的lib和include路径,用pip安装的话路径和别的安装方法(tar、deb)中的路径不太一样,千万要注意!

build

找到github下的tensorrt项目可以看到这里有include 头文件,也就是之后会用到的。

git clone https://github.com/NVIDIA/TensorRT.git
cd TensorRT
git submodule update --init --recursive

这样include路径就是在你本地啦 {TensorRT}/include

比如我的就是*/home/zxc/pkg/TensorRT/include/*

----------------------------------------------lib----------------------------------------------
lib路径github上说 “TensorRT libraries are preinstalled under /usr/lib/x86_64-linux-gnu
(但我在这里没有找到…不知道哪里出了问题)
但是用pip安装的话应该是在python包的地方,所以lib地址还是可以找到的

在这个位置 /home/{user_name}/.local/lib/python3.8/site-packages/tensorrt/

比如我的是 /home/zxc/.local/lib/python3.8/site-packages/tensorrt/
打开之后可以看到许多动态库.so文件

这个lib的位置就不需要加到环境变量里了

5、开始享用tensorrt

之后编译的时候只需要修改tensorrt的lib和include位置即可
比如我在做yolov5的pytorch模型转trt模型时,CMakeLists就需要修改这两个地方:
CmakeLists

后记

昨天装了一下午被折磨的头皮发麻,官方给的链接基本都是支持最新版本的cuda,但我又不想重新装新的cuda,最后直接用pip来装了。但是编译的时候死活找不到lib和include的位置,看别人轻轻松松解压完就有,好在最后找到了并且可以安心使用,冲冲冲!
希望用tar和deb安装支持低版本cuda的tensorrt的大佬也能分享一下链接!灰常感谢!!

  • 25
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 8
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值