yolov5 6.1官方模板TensorRT加速保姆级图文教程

加速的基础流程今年春季已经写好了,可以完美复现加速。

ae624f5935ee4651bb3bd5f7335974fe.png

 需要补充的是运行export.py的报错,加一句:

pip install onnx

这会写教程的时候,电脑是昨天新做的系统,没有python以及对应的工具,这里需要安装:

823c3aa95f59423d9f96269c21d80fd0.png

 下载8.2以上的tensorrt版本,个人电脑是i7,1060,下载了TensorRT-8.4.0.6并解压到任意文件夹,打开里面的python目录,找到:

19a7e3f4394a44e089548be2b1115b27.png

 下载官方模板代码,安装到了d盘:

e6ccb9b38752430fa84ba4e8b16dc885.png

 此刻电脑还是干净的,仅仅安装了上面的图片里面的工具:annaconda,清华源和pycharm

打开annaconda的 powershell工具,准备依次键入配置代码,这个过程可能需要半个小时左右:

【yolov5 6.1官方模板TensorRT加速保姆级图文教程】
https://blog.csdn.net/lao_5/article/details/127813970?spm=1001.2014.3001.5502

#最简单的方法如下:
conda create -n yoloTRT python=3.8    #创建环境
conda activate yoloTRT    #激活环境
cd D:\yolov5-6.1  #进入程序文件夹
pip install --upgrade setuptools pip wheel  #这里报错,不影响。next。。。
python -m pip install nvidia-pyindex
python -m pip install nvidia-cuda-runtime-cu11
conda install cuda -c nvidia/label/cuda-11.7.0 -c nvidia/label/cuda-11.7
conda install pytorch torchvision torchaudio cudatoolkit=11 -c pytorch
pip install tensorrt-8.4.0.6-cp38-none-win_amd64.whl
pip install onnx
pip install -r requirements.txt
conda deactivate  #退出虚拟环境

bf4b2674577a42ecafe29c7b5fceefe9.png

 顺序复制,静待安装即可,安装过程不做赘述,没有波澜,无脑CV即可完成。

注意多加一个pip install onnx,当然也可以注释代码里的onnx的生成。

这里默认小帅们已经pip了所有的过程,进入下一步,给pycharm定位解释器,也就是刚才部署的

yoloTRT环境中exe即可。这些装备工作就绪之后,6.1模板有一个致命的错误,先修改过来,看图

照做即可:

6f3a3b8701da40e2af49ba285891ce2b.png

 准备官方的权重文件,我这里下崽了yolov5s.pt做演示用,丢进代码目录,右键执行detect.py,

这样做的意图是确保解释器与代码都是没有问题的。执行看看吧:

21f56210be2e401e81236213f400bfa7.png

3407da7face9413cab4d3eacb5f5a9dd.png

 很显然,上面的配置代码至关重要,很顺利,一次过了。

接着步入加速,首先要得到一个engine文件,6.1模板用export.py可以直接转换,需要改的地方,是输出engine文件名以及在export.py中搜索device,然后把cpu改为0

375e27673d294b22b5a64f851670cd6a.png

 这样模板代码目录就多出一个yolov5s.engine文件,当然还有onnx和torchscript,这两位暂时不用

继续转到detect.py页面,把代码里面的yolov5s.pt改为yolov5s.engine,到这里大功告成了,右键

运行代码,结果如图:

0a27b98d8f4d4036be65d5b055437840.png

10fc037eaa47405e8851025b801a4e14.png

 关于加速,就彻底成功了。detect.py里面的代码但是精华,仔细研读理解可以做你爱做的事了。

yolo交流群:

967082372

 

 

  • 6
    点赞
  • 22
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值