自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(35)
  • 收藏
  • 关注

原创 【ZhangQian AI模型部署】目标检测、SAM、3D目标检测、旋转目标检测、人脸检测、检测分割、关键点、分割、深度估计、车牌识别、车道线识别

【yolov10 部署 rknn、地平线、tensorRT、C++】【yolo world 部署 rknn、地平线、tensorRT、C++】【yolov9 部署 rknn、地平线、tensorRT、C++】【yolov8 部署 rknn、地平线、tensorRT、C++】【yolov7 部署 rknn、地平线、tensorRT】【yolov6 部署rknn、地平线、tensorRT、caffe】【yolov5 部署 rknn、地平线、tensorRT、caffe】【DETR 部署 tensorRT、C++

2024-07-11 19:55:57 898

原创 yolov8obb 旋转目标检测 瑞芯微 rknn rk3588 部署 C++代码

yolov8obb 旋转目标检测rknn的C++部署。直接上代码和模型,欢迎参考交流。

2024-07-16 10:19:21 378

原创 LPRNet 车牌识别部署 rk3588(pt-onnx-rknn)包含各个步骤完整代码

虽然车牌识别技术很成熟了,但完全没有接触过。一直想搞一下、整一下、试一下、折腾一下,工作之余找了一个简单的例子入个门。本博客简单记录一下 LPRNet 车牌识别部署 rk3588流程,训练参考 LPRNet 官方代码。1、导出onnx导出onnx很容易,在推理时加入保存onnx代码,但用onnx推理时发现推理识别,有算子onnx推理时不支持,看了一下不支持的操作 nn.MaxPool3d() ,查了一下资料有等价的方法,用等价方法替换后推理结果是一致的。保存onnx代码。

2024-07-11 17:57:37 556

原创 单目深度估计部署 rk3588

搞了一小段时间的单目深度估计,目标是在板端部署用起来,但由于基于开源数据或开源模型,将模型估计的相对深度转换成绝对深度误差非常大(或许是转换方法有问题),另一方面如何具体的在项目中很好的用起来还没考虑到很好的用法,因此暂且先束之高阁。本博客简单记录一下部署流程。尝试过MiDaS的midas_v21_384模型和 AdelaiDepth 模型,没有rk不支持的算子,直接导出onnx,转换rknn,上板子测试。

2024-07-09 14:13:32 324

原创 UNetMultiLane 多车道线、车道线类型识别【训练+部署】

基于UNet 分割模型增加了检测头来识别车道线的类型(单实线、双黄线等10种),同时可以识别出"所在车道"和"车道线类型"。训练代码。

2024-06-11 10:34:11 391

原创 yolov8-obb 旋转目标检测 瑞芯微RKNN芯片部署、地平线Horizon芯片部署、TensorRT部署

模型和完整仿真测试代码,放在github上参考链接。折腾旋转目标检测的小伙伴们看过来,yolov8旋转目标检测部署来了。

2024-06-04 11:24:53 858

原创 yolov10 瑞芯微 rknn 部署 C++代码

yolov10 目标检测rknn的C++部署来了。直接上代码和模型,欢迎参考交流。

2024-05-27 16:28:43 1215 4

原创 yolov10 瑞芯微RKNN、地平线Horizon芯片部署、TensorRT部署,部署工程难度小、模型推理速度快

模型和完整仿真测试代码,放在github上参考链接。yolov8、v9还没玩热乎,这不yolov10又来了,那么部署也又来了。

2024-05-27 15:57:05 1897 19

原创 Monodle centerNet3D 瑞芯微RKNN、地平线Horizon芯片部署、TensorRT部署

monodle、3D目标检测、centerNet

2024-05-24 17:59:10 447

原创 CenterNet 瑞芯微RKNN、地平线Horizon芯片部署、TensorRT部署、C++部署

本来想部署基于CenterNet的单目3D目标检测,看到3D后处理感觉有点复杂,觉得还是需要把CenterNet 给手撸一遍,再去梳理3D的后处理,花了一点时时间看懂CenterNet后处理后,直接上手开撸。【完整代码】【rknn C++板端部署】

2024-05-22 16:38:50 311

原创 FastSAM 部署 rknn

基于yolov8(ultralytics)工程导出的FastSAM的onnx模型,后处理和yolov8seg是一样的。模型和完整测试。

2024-05-21 15:50:13 457

原创 yolov8seg 瑞芯微RKNN、地平线Horizon芯片部署、TensorRT部署,部署工程难度小、模型推理速度快

之前写过yolov8seg部署,但在实际项目中没有真正的用,最近有项目尝试使用yolov8seg,把之前的yolov8目标检测的优化给同步到yolov8seg中。模型和完整仿真测试代码,放在github上参考链接。

2024-05-20 15:44:25 711

原创 yolo world 目标检测 rknn 的C++部署

yolov9目标检测rknn的C++部署来了。直接上代码和模型,欢迎参考交流。

2024-05-07 15:04:34 639

原创 yolo world tensorRT 的 C++ 部署

本示例中,包含完整的代码、模型、测试图片、测试结果。完整的代码、模型、测试图片、测试结果TensorRT版本:TensorRT-7.1.3.4。

2024-05-07 14:57:36 446 4

原创 yolo world 瑞芯微芯片rknn部署、地平线芯片Horizon部署、TensorRT部署

模型和完整仿真测试代码,放在github上参考链接。yoloworld出来的有一段时间了,还没有盘到板端上玩一玩,不把这个给整落地工作都干不起劲。落地过程也是一波三折多次想放弃,起早赶晚的抽时间干,再试一次,再试最后一次,再试最最后一次。。。yoloworld 环境搭建都折腾了三次,转onnx也折腾了三次,上rknn板子又是三次(尝试rknn_toolkit2-1.3.0、rknn_toolkit2-1.6.0运行报错,最终用的rknn_toolkit2-2.0.0运行成功),折腾的都快口吐鲜血了。

2024-05-07 14:50:23 1070 19

原创 yolov9 tensorRT 的 C++ 部署

yolov9 tensorRT C++部署。本示例中,包含完整的代码、模型、测试图片、测试结果。TensorRT版本:TensorRT-7.1.3.4。

2024-02-28 09:46:30 853

原创 yolov9 瑞芯微 rknn 部署 C++代码

yolov9目标检测rknn的C++部署来了。直接上代码和模型,欢迎参考交流。

2024-02-27 16:34:47 1100

原创 yolov9 瑞芯微芯片rknn部署、地平线芯片Horizon部署、TensorRT部署

模型和完整仿真测试代码,放在github上参考链接。之前写过yolov8检测、分割、关键点模型的部署的多篇博文,yolov8还没玩溜,这不yolov9又来了。yolov9刚出来两三天,有朋友就问:yolov9都出来好几天了,怎么没有见到你写一篇部署博客呢。其实yolov9出来两三天,说实话还是通过朋友提示才知道的。一直想抽时间把yolov9部署给盘一下,奈何一拖就又是好几天。这两天抽时间先把这个yolov9给盘完。

2024-02-27 15:16:46 2395 17

原创 yolov8 瑞芯微 RKNN 的 C++部署,部署工程难度小、模型推理速度快

之前写过两次yolov8目标检测部署,后续继续思考,针对部署还有优化空间,本示例的部署方式优化了部署难度,加快了模型推理速度(略微增加了后处理的时耗)。【完整代码】

2024-01-11 12:24:27 2937 18

原创 yolov8n 瑞芯微RKNN、地平线Horizon芯片部署、TensorRT部署,部署工程难度小、模型推理速度快

模型和完整仿真测试代码,放在github上参考链接。因为之前写了几篇yolov8模型部署的博文,存在两个问题:部署难度大、模型推理速度慢。该篇解决了这两个问题,且是全网部署难度最小、模型运行速度最快的部署方式。相对之前写的一篇【】将DFL写在后处理中模型加速了,针对后处理进行优化后时耗略微增加。

2024-01-11 11:47:54 4029 37

原创 DETR tensorRT部署去除推理过程无用辅助头+fp16部署再次加速+解决转tensorrt 输出全为0问题的新方法

转tensorrt 输出全为 0 的可能的本质原因:(1)Gather的参数中的取最后一个维度数据用的是自动推断的-1,可能是算子不支持,需改成指定的维度;后来就琢磨这个事情,既然只取最后一个头的结果,那么中间的头完全可以不要,这样就可以不使用Gather操作,且可以加快模型的推理速度。基于本示例导出的onnx模型转tensorRT,对比使用float32和float16转出来的模型大小明显变小,推理速度也明显加快。(2)对比原始模型导出tensonRT的速度和本示例导出的导出tensonRT的速度;

2024-01-09 15:07:44 1413 1

原创 DETR tensorRT 的 C++ 部署

本篇说说DETR tensorRT 的 C++ 部署。

2024-01-08 16:50:37 768 1

原创 DETR tensorRT 部署

模型、测试图像、转换tensorrt(tensorRT-7.2.3.4)代码、测试tensorrt代码,放在github上参考链接。说明:(1)本示例提供的模型只检测行人,由于训练的时类别写成了3,因此模型输出结果只有第二类说有效的。(2)本示例不涉及模型训练,训练自己数据可以参考网上教程。我第一次训练没有使用预训练权重,导致模型不收敛最终的AP全为0;第二次加载预训练模型才收敛,加载预训练权重参考网上提供的将模型输出适配成自己的类别。(3)解决转tensorrt 输出全为 0 的问题。

2024-01-08 15:44:47 689

原创 yolov8 tensorRT 的 C++ 部署

前几篇写了 yolov8 相关的 瑞芯微rknn、地平线Horizon 的仿真和C++相关的部署,以及tensorRT的python版本部署,本篇说说tensorRT 的 C++ 部署。所使用的模型是基于前几篇导出的onnx模型,导出onnx方式参考。TensorRT版本:TensorRT-7.1.3.4导出适配本实例的onnx模型参考。编译前修改 CMakeLists.txt 对应的TensorRT版本。

2023-11-29 16:13:06 1478 2

原创 yolov8 瑞芯微RKNN和地平线Horizon芯片仿真测试部署-2023年11月15日版本

由于yolov8的官方代码结构进行了很大的调整,之前yolov8刚出来的时候写的部署博客,有网友反馈找不到对应的地方,基于截至2023年11月官方最新代码结构进行部署博客来了。之前给出过完整的部署仿真代码和模型,今天只对如何导出能上板端芯片,且效率高的流程进行梳理。模型和完整仿真测试代码,放在github上参考链接。

2023-11-16 12:05:28 1776 42

原创 yolov8seg 瑞芯微 RKNN 的 C++部署

上两篇博客和写了yolov8检测的C++部署和yolov8pose的C++部署。不把yolov8seg的C++部署写一下凑齐,工作都提不起干劲,奈何总有那么多的执拗,说干就干。这一篇写一下基于rknn板子对yolov8seg进行C++部署,开源并提供完整的代码、模型、使用流程,供网友自行进行测试验证。【完整代码】

2023-09-28 10:18:06 913 25

原创 yolov8pose 瑞芯微 RKNN 的 C++部署

上两篇博客和写了yolov8检测的C++部署和yolov8pose仿真部署。有网友希望开源yolov8pose在板子上部署的C++代码。这一篇写写基于rknn板子对yolov8pose进行C++部署,并开源提供完整的代码、模型、使用流程,供网友自行进行测试验证。【完整代码】

2023-09-25 10:35:50 2790 8

原创 yolov8pose 瑞芯微RKNN芯片、地平线Horizon芯片、TensorRT部署

模型、测试图像、测试结果、完整代码,放在github上,。由于之前写了几篇yolov8检测、分割相关的板端芯片部署相关的博文,有网友让写一篇yolov8pose部署博客,yolov8pose的部署来了。特别说明。

2023-07-21 18:13:12 4006 44

原创 yolov8seg 瑞芯微RKNN芯片、地平线Horizon芯片、TensorRT部署

由于之前写了几篇yolov8检测部署板端芯片相关的博文,有网友让写一篇yolov8seg部署博客,一直迟迟未行动,最近忙中借闲匆匆对yolov8seg进行了梳理,完成了这篇yolov8seg部署验证和测试。yolov8seg 还需处理mask系数,同时分割结果还需乘以系数,使得对板端部署不是很友好。模型、测试图像、测试结果、完整代码,放在github上,参考链接。

2023-07-06 11:31:52 3512 29

原创 yolov8 瑞芯微 RKNN 的 C++部署

上一篇博客写了在rknn模型的转换与PC端仿真测试,有网友希望写一篇在板子上部署的博文和开源提供C++代码。这一篇基于rknn板子进行C++部署,并开源提供完整的源代码和模型,供网友自行进行测试验证。

2023-06-09 16:54:20 8557 58

原创 yolov8 官方模型进行瑞芯微RKNN和地平线Horizon芯片仿真测试部署

由于之前写了一篇 ”yolov8 瑞芯微RKNN和地平线Horizon芯片仿真测试部署“ 这一篇导出的onnx模型在板端芯片部署效率非常高的,高效率体现在模型的所有操作都在加速引擎(NPU或BUP)上,模型推理没有CPU和板端加速引擎的切换,且后处理对一些维度变换直接用了索引的方式,没有额外的维度变换操作。但是工程部署难道相对大一些,有网友希望提供一个基于官方导出的onnx进行板端部署,因此本篇就基于 yolov8 官方导出onnx的方式,进行模型进行芯片部署和仿真测试。

2023-05-18 20:30:47 4057 27

原创 yolov7 瑞芯微RKNN、地平线Horizon芯片部署、TensorRT部署

yolov7 瑞芯微RKNN和地平线Horizon芯片仿真测试部署

2023-02-21 11:06:36 1766 1

原创 yolov8 瑞芯微RKNN和地平线Horizon芯片仿真测试部署

yolov8 瑞芯微RKNN和地平线Horizon芯片仿真测试部署。包含模型、测试图片和完整测试代码。跟上技术的步伐,yolov8 首个板端芯片部署。

2023-02-07 15:05:58 12189 95

原创 地平线Horizon模型转换和PC端仿真测试

地平线模型转换工具链的使用、量化模型的测试,以yolov5为例。

2022-12-08 21:01:01 1489

原创 瑞芯微RKNN模型转换和PC端仿真

RKNN 工具链提供了两种按照方式,一种是“通过 pip install 安装”和“通过 Docker 镜像安装”,建议“通过 Docker 镜像安装”。具体安装方式参考提供的官方文档。工具链百度云盘,提取码:rknnRKNN-Toolkit2 目前支持 Caffe、TensorFlow、TensorFlow Lite、ONNX、DarkNet、PyTorch 等 模型的加载转换,这些模型在加载时需调用对应的接口,以下为这些接口的详细说明。

2022-09-13 13:18:20 6653 5

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除