之前的博客中点我,介绍了笔者目前实现的一个Yolov5的推理加速,当时是展示性质的介绍,这里我会把详细的步骤一一介绍给大家,让大家都能亲自复现效果。
首先,介绍一下相关的环境:
- OS:Ubuntu16.04 (18.04未测试)
- CPU:Intel Gold 6128@3.4GHz x 24
- GPU: GTX 1080Ti
- Cuda:10.1
- OpenCV:3.4.12
- C++实现【重要】
- IDE:Clion
- TensorRT:6.0.1.5(可用TensorRT-6或者是TensorRT-7,不可用5)
以上是笔者的环境,Ubuntu16.04和C++实现。
接着:介绍一下成果:
在Ubuntu16.04下,实现了C++版本的Yolov5的trt加速,并在Clion中完美运行。
【代码整理中,稍后会上传,大家耐心等待】
下载:CSDN免费
先说下流程:我们会下载2个repo和1个模型文件yolov5s.pt,然后利用repo里面的脚本先将yolov5s.pt->yolov5s.wts。接着编译工程。
用编译后的可执行文件生成yolov5.engine,最后用该engine进行推理。
好,下面进入正文环节:
1. repo-1:yolov5
最近有人实现了Yolov5检测算法,虽然没有得到官方的认证,但是笔者测试时发现,效果非常惊艳,所以准备入坑。
一键直达:yolov5
下载(准备白嫖)
看的出来,作者已经在移动设备上部署了。
有的人可能马上要问了,这不是C++的呀,这是python啊...
年轻人,别这么猴急,前戏要做足了....
为了重点突出,这里我们不自己训练模型了,就直接使用Yolov5 repo中提供的模型。
一键直达: