ubuntu16.04 安装TensorRT + onnx + onnx_tensorrt2

TensorRT7 + onnx + onnx_tensorrt2 anzhuang

尝试了TensorRT 5 发现在Cmake 的时候,总是出现错误:
libnvinfer_plugin.so;TENSORRT_LIBRARY_MYELIN-NOTFOUND :missing: TENSORRT_LIBRARY
可能是我的CUDNN版本不对。所以索性装成TensorRT 7:
注: 先确定好你的CUDA和CUDNN版本匹不匹配。 直接去 : 下载,tar格式下的会有TensorRT-7.0.0.11.Ubuntu-16.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz 。 可以看到CUDA10.0 匹配cudnn7.6 。 建议是deb 和tar 格式都下。 我这里是只下载了tar 。
1.cuda 安装 : 一搜 一堆, 不做介绍。当你输入nvcc -V的时候,CUDA版本号与你下载的tensorrt 后缀匹配即可。

2.cudnn :一搜 一堆, 不做介绍。当你输入cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2的 时候,cudnn版本号与你下载的tensorrt 后缀匹配即可
3**.tensorRT 安装**。
解压文件: tar xzvf TensorRT-7.0.0.11.Ubuntu-16.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz
加入环境变量
**export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/tensorrt_tarTensorRT-7.0.0/lib
安装,里面有py27,py35,py36,py37 , 选择你的python 版本
cd TensorRT-7.0.0.11/python
pip install tensorrt-7.0.0.11-py2.py3-none-any.whl

#安装UFF
cd TensorRT-7.0.0.11/uff
pip install uff-0.6.5-py2.py3-none-any.whl

#安装graphsurgeon

cd TensorRT-7.0.0.11/graphsurgeon
pip install graphsurgeon-0.4.1-py2.py3-none-any.whl**

  1. onnx_tensorrt2 安装
    由于我是 onnx 模型转trt的,所以要搭配onnx_tensorrt2。
    下载onnx_tensorrt2:
    git clone --recurse-submodules https://github.com/onnx/onnx-tensorrt.git
    cd onnx-tensorrt
    mkdir build (build 是在onnx_tensorrt 文件夹里面建立)
    cmake … -DTENSORRT_ROOT=<tensorrt_install_dir> ( tensorrt 的安装目录 :/home/tensorrt_tarTensorRT-7.0.0)
    例: cmake … -DTENSORRT_ROOT=/home/tensorrt_tarTensorRT-7.0.0
    或者: cmake … -DTENSORRT_ROOT=/path/to/TensorRT-7.x.x.x -DGPU_ARCHS=“75”
    DGPU_ARCHS 是你显卡的算力
    make -j8 (在onnx-tensorrt/build 目录下执行)
    sudo make install
    安装完成后输入 onnx2trt 确认一下

如何出现 :缺少Protobuf 文件, 建议参考:

后续出现的问题:
在import onnx_tensorrt 的时候发现没有这个模块。
在onnx_tensorrt根目录上 python setup.py build
# 出现 command ‘swig’ failed with exit status 1 错误

解决
在你 从github 上克隆下来的 onnx_tensorrt 里面。 找到 NvOnnxParser.h 在最上面加上
#define TENSORRTAPI 然后保存
python setup.py build
sudo python setup.py install
即可。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值