加速的基础流程今年春季已经写好了,可以完美复现加速。
需要补充的是运行export.py的报错,加一句:
pip install onnx
这会写教程的时候,电脑是昨天新做的系统,没有python以及对应的工具,这里需要安装:
下载8.2以上的tensorrt版本,个人电脑是i7,1060,下载了TensorRT-8.4.0.6并解压到任意文件夹,打开里面的python目录,找到:
下载官方模板代码,安装到了d盘:
此刻电脑还是干净的,仅仅安装了上面的图片里面的工具:annaconda,清华源和pycharm
打开annaconda的 powershell工具,准备依次键入配置代码,这个过程可能需要半个小时左右:
【yolov5 6.1官方模板TensorRT加速保姆级图文教程】
https://blog.csdn.net/lao_5/article/details/127813970?spm=1001.2014.3001.5502
#最简单的方法如下:
conda create -n yoloTRT python=3.8 #创建环境
conda activate yoloTRT #激活环境
cd D:\yolov5-6.1 #进入程序文件夹
pip install --upgrade setuptools pip wheel #这里报错,不影响。next。。。
python -m pip install nvidia-pyindex
python -m pip install nvidia-cuda-runtime-cu11
conda install cuda -c nvidia/label/cuda-11.7.0 -c nvidia/label/cuda-11.7
conda install pytorch torchvision torchaudio cudatoolkit=11 -c pytorch
pip install tensorrt-8.4.0.6-cp38-none-win_amd64.whl
pip install onnx
pip install -r requirements.txt
conda deactivate #退出虚拟环境
顺序复制,静待安装即可,安装过程不做赘述,没有波澜,无脑CV即可完成。
注意多加一个pip install onnx,当然也可以注释代码里的onnx的生成。
这里默认小帅们已经pip了所有的过程,进入下一步,给pycharm定位解释器,也就是刚才部署的
yoloTRT环境中exe即可。这些装备工作就绪之后,6.1模板有一个致命的错误,先修改过来,看图
照做即可:
准备官方的权重文件,我这里下崽了yolov5s.pt做演示用,丢进代码目录,右键执行detect.py,
这样做的意图是确保解释器与代码都是没有问题的。执行看看吧:
很显然,上面的配置代码至关重要,很顺利,一次过了。
接着步入加速,首先要得到一个engine文件,6.1模板用export.py可以直接转换,需要改的地方,是输出engine文件名以及在export.py中搜索device,然后把cpu改为0
这样模板代码目录就多出一个yolov5s.engine文件,当然还有onnx和torchscript,这两位暂时不用
继续转到detect.py页面,把代码里面的yolov5s.pt改为yolov5s.engine,到这里大功告成了,右键
运行代码,结果如图:
关于加速,就彻底成功了。detect.py里面的代码但是精华,仔细研读理解可以做你爱做的事了。
yolo交流群:
967082372