算法开发：硬解码+tensorrt部署yolov5s(c++代码 makefile版本)

已于 2023-04-26 09:20:04 修改
阅读量391 收藏 1
点赞数 1
分类专栏： 机器学习算法部署落地专栏 文章标签： 算法 YOLO c++ 计算机视觉 人工智能 Powered by 金山文档
于 2023-03-09 15:21:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/suanfaxiazai/article/details/129422839
版权
本文介绍了在Ubuntu系统、CUDA 11.1和TensorRT 7.3.4环境下，如何进行YOLOv5s模型的硬解码和TensorRT部署。通过修改代码和配置文件，最终实现从预处理到推理到后处理再到显示的90fps运行速度。详细步骤包括安装环境、获取.yolov5s.engine文件、修改代码和Makefile配置，并在指定目录下执行程序。
摘要由CSDN通过智能技术生成

说明：x86 ubuntu 系统，3090显卡cuda11.1，tensorrt7.3.4，测试视频wh:1280×720 ， 最终测得 从前处理到推理到后处理到显示总共为90fps。（可能效率上有些问题，感觉fps太低了，一般硬解码+tensorrt推理速度应该在200fps左右）

一、安装tensorrt环境，安装yolov5环境，得到yolov5s.engine文件

参考我之前的教程：https://blog.csdn.net/suanfaxiazai/article/details/129204092?spm=1001.2014.3001.5502

二、修改代码

修改/mnt/data/liux/tensorrt_test/TensorR

了解本专栏 订阅专栏 解锁全文 超级会员免费看
喜欢天晴
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
算法开发：硬解码+tensorrt部署yolov5s(c++代码 CMake版本)
suanfaxiazai的博客
04-26 425
c++部署yolov5s opencv硬解码 tensorrt部署yolov5s cmake yolov5s camke tensorrt
tensorrt 加速yolov5 c++部署
qq_34929889的博客
05-24 1005
tensorrt 加速yolov5 c++部署yolov5的onnx一体式导出tensorrt c++部署tensorrt引擎前处理后处理nms完整的代码链接 yolov5的onnx一体式导出 原版的yolov5 onnx导出的时候，导出的代码是if not self.training前边的程序段，不包含后续将检测物体映射到原图上，及后续的 if self.inplace: y[..., 0:2] = (y[..., 0:2] * 2 + self.grid[i])
算法开发：opencv部署yolov5s（c++代码）
suanfaxiazai的博客
03-06 518
opencv 部署yolov5s ,onnx，90fps ，++
在jetson xavier上利用TensorRT C++部署yolov5_基于tiny-tensorrt
cumtchw
07-16 1047
参考: https://github.com/zerollzeng/tiny-tensorrt https://forums.developer.nvidia.com/t/tiny-tensorrt-a-simple-efficient-easy-to-use-tensorrt-wrapper-for-cnn-sopport-c-and-python/83644
YOLOv5 tensorRT C++代码详解之engine的读取
最新发布
z240626191s的博客
08-20 1700
engine文件的读取需要用到ifstreamifstream – 从已有的文件读入ofstream – 向文件写内容fstream - 打开文件供读写文件打开模式：ios::in 只读ios::out 只写ios::app 从文件末尾开始写，防止丢失文件中原来就有的内容ios::binary 二进制模式ios::nocreate 打开一个文件时，如果文件不存在，不创建文件ios::noreplace 打开一个文件时，如果文件不存在，创建该文件。
【寒武纪】视觉算法MLU220硬件适配（1）
AI知识搬运工
06-06 3369
寒武纪开发者社区 安装硬件驱动和软件工具链，也可以直接使用寒武纪官方开发平台：寒武纪开发平台本地开发安装完工具需要进行一些配置：根据包管理器的反馈，CNToolkit安装成功后，还需要进行最后检查和环境配置才能正确工作。 ......
老码农冒死揭开行业黑幕：如何编写无法维护的代码
程序员的那些事
08-18 2912
（给程序员的那些事加星标）【程序员的那些事 注】：这是一篇非常经典的文章，我们以前发过多次。虽然部分内容是针对 Java 语言，但其他部分对所有编程语言都有参考意义。今天重新推荐给新读者...
Deepstream yolov5 两种引擎(engine)生成方式
W1995S的博客
12-04 2800
tensorrt
nvidia的deepstream-test3实现多路视频实时检测，同时加载yolov5s的engine模型，过程问题总结以及项目源码（精）
pvmsmfchcs的博客
10-15 988
nvidia的deepstream-test3实现多路视频实时检测，同时加载yolov5s的engine模型，过程问题总结以及项目源码，在clion的ide环境下进行编译运行项目源码
yolov5s_模型.zip
06-16
yolov5s_模型.zip
解码核心ML YOLO对象检测器
04-11
在本文中，我们将通过将抽象数字的数组转换为人类可读的形式来解码Core ML YOLO模型。
yolov5s .zip
08-09
YOLOv5权重文件：S模型。yolov5系列将在2020年第2/3季度进行架构研究和开发，以提高性能。更新可能包括来自yolov4的CSP瓶颈，以及PANet或BiFPN head特性。
deepstream_yolov5_sources.zip
03-23
详见https://zhangzhe.blog.csdn.net/article/details/115127428 包含labels.txt、yolov5s.wts、libmyplugins.so、yolov5s.engine
基于YOLOv5s的火焰检测在jetson nano边缘计算设备上的部署（使用tensorrt加速，Deepstream视频推流SDK）
weixin_51453317的博客
06-11 1861
通过在PC端训练模型在nano上转成engine模型视频实时检测，tensorrt加速与deepstream部署
win10系统下yolov5-V6.1版本的tensorrt部署细节教程及bug修改
qq_44224801的博客
08-03 2031
详解win10系统下的yolov5v6.0/v6.1版本的tensorrt部署细节教程及遇到的bug修改
ffmpeg tensorrt c++多拉流硬解码yolov5 yolov7 bytetrack 人流追踪统计 硬件编码推流直播
qq_43502221的博客
08-25 5427
ffmpeg c++多拉流硬解码yolov5 yolov7 bytetrack 人流追踪统计 硬件编码推流直播
[Convolution]:kernel weights has count 3840 but 32640 was expected，yolov5s生成engine模型失败
pvmsmfchcs的博客
06-26 1398
[Convolution]:kernel weights has count 3840 but 32640 was expected，生成engine模型失败
Linux内核Makefile详解：驱动开发与代码结构理解的关键
"这篇文档是关于Linux内核Makefile的详解，主要针对设备驱动开发和内核代码结构的理解。文档提供了内核目录中documentation/kbuild/makefiles.txt的中文翻译，涵盖了从概述到Kbuild变量等多个方面，帮助开发者更好地...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值