文章目录
Windows
下载安装文件
进入TensorRT官网下载需求版本【链接】
(演示中使用版本如图)
解压下载的文件【TensorRT-8.5.1.7.Windows10.x86_64.cuda-11.8.cudnn8.6.zip】
替换CUDA中对应文件
打开CUDA所在路径【C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7】
将解压文件夹中【bin】中的文件复制到CUDA对应【bin】中。
将解压文件夹中【include】中的文件复制到CUDA对应【include】中。
将解压文件夹中【lib】中的.lib文件复制到CUDA对应【lib/x64】中。
将解压文件夹中【lib】中的.dll文件复制到CUDA对应【bin】中。
pip安装对应的包
安装【graphsurgeon】中的.whl文件
pip install graphsurgeon-0.4.6-py2.py3-none-any.whl
安装【onnx_graphsurgeon】中的.whl文件
pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl
安装【python】中对应版本的.whl文件
pip install tensorrt-8.5.1.7-cp37-none-win_amd64.whl
安装【uff】中的.whl文件
pip install uff-0.6.9-py2.py3-none-any.whl
检测是否安装完成
import tensorrt as trt
print(trt.__version__)
# 输出为对应版本号即安装完成
>>>8.5.1.7
问题解决
Could not locate zlibwapi.dll. Please make sure it is in your library path!
这个是在使用trtexec进行onnx转trt时出现的报错,原因就是缺少【zlibwapi.dll】文件。
解决方案:
从【Zlib安装官方教程】中下载【zlib123dllx64.zip】文件。
解压后,将其中的【zlibwapi.lib】和【zlibwapi.dll】分别放入上述CUDA路径中的【lib】和【bin】文件夹中。