ubuntu系统安装tensorRT-8.6.1版本(2023-8月最新版)

前言

看了无数教程和b站视频,啊啊啊啊啊啊啊啊啊啊啊tensorRT要我狗命啊。我要写全网tensorRT最全的博客!!!
总体来说成功安装方式有两种,pip安装和tar.gz安装(其实官网安装方式居多,奈何没有sudu权限~)我在两台服务器上分别用连这个红安装了tensorRT8.6.1,
硬件:
ubuntu 20.04
cuda:11.0
查看指令:cat usr/local/cuda/version.txt cat /etc/issue
在这里插入图片描述

pip安装

参考:NVIDIA官方安装教程

安装指令:
进入anaconda环境,python3 -m pip install --upgrade tensorrt (安装最新版)
测试:

python3
>>> import tensorrt
>>> print(tensorrt.__version__)
>>> assert tensorrt.Builder(tensorrt.Logger())

可能出现的报错:

1.[08/31/2023-13:45:20] [TRT] [W] CUDA lazy loading is not enabled. Enabling it can significantly reduce device memory usage. See CUDA_MODULE_LOADING in https://docs.nvidia.com/cuda/cuda-c-programming-guide/index.html#env-vars
2.CUDA initialization failure with error: 35. Please check your CUDA installation:
解决方案:
pip uninstall tensorrt
pip install tensorrt==查看安装版本,一个一个试
(毕竟我也没办法升级显卡驱动等等~)

成功安装,如下:
在这里插入图片描述

tar.gz安装

参考官方安装教程:https://docs.nvidia.com/deeplearning/tensorrt/install-guide/index.html#installing-tar

  1. 进入下载页面官方下载,注册然后点击“NVIDIA TensorRT 8.x Download”,勾选“ I Agree To the Terms of the NVIDIA TensorRT License Agreement”
    在这里插入图片描述2. 把压缩包放在可放的路径,解压:
    tar zxf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz
    cd TensorRT-8.6.1.6
    export LD_LIBRARY_PATH= L D L I B R A R Y P A T H : / h o m e / 用户名 / 1. s o f t w a r e s / T e n s o r R T − 8.6.1.6 / l i b s o u r c e   / . b a s h r c e x p o r t L D L I B R A R Y P A T H = LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/lib source ~/.bashrc export LD_LIBRARY_PATH= LDLIBRARYPATH:/home/用户名/1.softwares/TensorRT8.6.1.6/libsource /.bashrcexportLDLIBRARYPATH=LD_LIBRARY_PATH:/home/用户名/1.softwares/TensorRT-8.6.1.6/include/
    source ~/.bashrc 在这里插入图片描述
  2. 参考官网,pip安装各种包
    在这里插入图片描述
    这些wheel都在TensorRT-8.6.1.6文件夹中,cd过去pip就行
    在这里插入图片描述
  3. 测试
cd 1.softwares/TensorRT-8.6.1.6/samples/sampleOnnxMNIST
make
../../bin/sample_onnx_mnist

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
参考连接:
https://zhuanlan.zhihu.com/p/392143346
【Linux安装Tensorrt】 https://www.bilibili.com/video/BV1kB4y117NZ/?share_source=copy_web&vd_source=4e0c29ba5725db288c1234b3d73dcfce
https://blog.csdn.net/qq_42160143/article/details/129837613

  • 7
    点赞
  • 17
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值