实践教程|Windows下基于TensorRT的YOLOV6保姆级部署教程

作者 | willer  编辑 | 极市平台

点击下方卡片,关注“自动驾驶之心”公众号

ADAS巨卷干货,即可获取

点击进入→自动驾驶之心【模型部署】技术交流群

后台回复【模型部署工程】获取基于TensorRT的分类、检测任务的部署源码!

导读

 

基于Tensor RT的YOLOv6超详细部署教程图文版。

部署环境和相关依赖包

  • Cuda 11.0.2

  • Cudnn 8.0.4.30

  • TensorRT 8.4.0.6

  • OpenCV 4.1.1

  • VS2019

项目所需的安装包均放到到如下百度云链接:

链接:https://pan.baidu.com/s/1C4jYSKAN2P_GSpFiikhY_g

提取码:71ou

部署流程

第一步把VS2019装好,安装略,百度云提供了安装包,可自行安装

第二步Cuda安装流程如下:

8f256f27b219a0f76512794725491d23.png 48d8055a5e30dff4f2b8e570a2d44b81.png 24f335157425f03f014f19a722838f9e.png 01bd735118e98f1c8c4791baf8d3a5c7.png 688cd7cc6b2e9eef018842384b58fae5.png a3b11f212980e4565f2834931c3642d8.png b1df95de6bd6067e5fc0231615080068.png a835a91f26f473f54b26624f5260581e.png 9efb9ad097e8d82d607c2a94ee2e36ea.png

第三步:解压如上cudnn压缩包,把如下目录的文件拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin目录下

e94cfdf68af3e3603bac2b5a77d26453.png

把如下目录的文件拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\include目录下

f5b52bb6ff0f2de4c960680a6b87e010.png

把如下目录的文件拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\lib\x64目录下

61979b34c0ad5ac00d5544d7938dd9c9.png

第四步解压OpenCV和TensorRT备用

eb293a7f70bdf750fefb5e5d4e08cf77.png

安装cmake

8789294cc6bb9d791e28d007d7647a4f.png 74d7d43d451bcf8cd17ba4a6f2192750.png b175ff5f134b27a46715220d95588b1d.png f1c81b6b2961f0199661cb7ab29c128a.png fe063b8408d9c34ba89f09b7113aacd8.png 783baf964e63c606d7cbed8ba933d92f.png 31b3b9904b61d2ccb8c9715ad6ddbb84.png

第五步onnx转tensorrt引擎,流程如下:

从GitHub下载部署代码https://github.com/zhiqwang/yolov5-rt-stack 进入如下目录

a0562fac804b53370d0c612b8fa98a7c.png

编辑CMakeLists,设置OpenCV和TensorRT目录

20c56e4f90cc45c55b134a0c429b6aef.png 41f41a9ca065956c537e68d21a97eebf.png

指定CMakeLists.txt目录以及要build的目录

60ee83fb7848e17c63dd7b1784551d32.png

点击cmake的tools->Configure

0fb2786d03f3073585e15d96121218ee.png 28abe594105a58ee57d8db7ef41393a3.png 4f4e14527068f92b592d2d68675dac19.png

进入build目录,打开build工程

895874b8d04ed74782b4d592464d3979.png

选择Release

cc8faf090f7bae72203466ae2991a0fc.png

点击生成->生成解决方案,编译完成后进入生成的exe目录

a911dc6a0651f1cf1574171316fc1217.png

把tensorrt的dll文件放到exe目录下

a0c6f44b442f90143729fd40651d9f60.png

进入C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.0\bin目录把以下8个dll拷贝到exe目录

  • cublas64_11.dll

  • cublasLt64_11.dll

  • cudart64_110.dll

  • cudnn_cnn_infer64_8.dll

  • cudnn_ops_infer64_8.dll

  • cudnn64_8.dll

  • nvrtc64_110_0.dll

  • nvrtc-builtins64_110.dll

f87bebbe74dfeb7f03acfcd1cf641e0a.png

把官方的提供的onnx模型放到exe目录

2314d2e557461091888bad819afbbdef.png

在exe目录打开命令行,输入build_model.exe yolov6n.onnx yolov6n.engine生成tensorrt引擎

第六步tensorrt引擎推理流程如下:

进入D:\yolov6\yolov5-rt-stack\deployment\tensorrt-yolov6目录编辑CMakeLists,设置OpenCV和TensorRT目录

acb80bfe0afc8c669b7ab0edb2295a72.png

打开桌面上的cmake,设置tensorrt推理代码的CMakeLists.txt路径以及要build的目录

653cde66f57c664259ee1f89c2fb7fe0.png

点击cmake的tools->Configure

c70faf6e24aad4d5492e198c3fea42bd.png 01090617f22faa027f678053b1da3b12.png

点击Generate

f96fc0c1127ec8ed6bffe266ed533dbc.png

打开build工程,选择release,点击生成->生成解决方案,生成tensorrt推理的exe

f6be6f22e53021dca45b920bfe83c611.png ac246efe8b1890a44e816aeeeab40b63.png 57b19aa762e6e9466e1bcb02b678f133.png

进入生成tensorrt引擎的exe目录(上一次build的目录)

d0c01572e44fd43acd53eff7b38fee5d.png

拷贝dll以及tensorrt推理引擎到tensorrt推理的exe目录(当前build的目录)

1b7e2f179ddfe7fa3e426b383ab480b5.png

把OpenCV的opencv_world411.dll拷贝到推理exe目录

eb08dc5c29b711059ed66a68c3d882ff.png c41240ba66dc301e7cab0ed72d15eb5e.png

在推理exe目录打开命令行,输入推理命令yolov6.exe -model_path yolov6n.engine -image_path zidane.jpg指定推理引擎路径以及推理图片路径,在推理exe目录生成推理可视化结果

7dd2fdb1a68cc580efbc89accf483724.png 580d021876603cb7abc8ea3af4ac0b48.png

ef9139e9727008932679bc7bdeb12234.png

自动驾驶之心】全栈技术交流群

自动驾驶之心是首个自动驾驶开发者社区,聚焦目标检测、语义分割、全景分割、实例分割、关键点检测、车道线、目标跟踪、3D目标检测、BEV感知、多传感器融合、SLAM、光流估计、深度估计、轨迹预测、高精地图、NeRF、规划控制、模型部署落地、自动驾驶仿真测试、硬件配置、AI求职交流等方向;

9e7157ed207439fa80ac8c52071d69c1.jpeg

添加汽车人助理微信邀请入群

备注:学校/公司+方向+昵称

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值