杀疯啦!yolov12+deepsort的目标跟踪实现

 

目录

介绍

YOLOv12 有什么新功能?

架构概述

区域注意模块

残差高效层聚合网络(R-ELAN)

架构改进 

YOLOv12 的基准测试

deepsort介绍:

yolov12结合deepsort实现目标跟踪

效果展示

训练与预测

UI设计

其他功能展示

完整代码实现+UI界面


介绍

        在研究了YOLOv8、YOLOv9、YOLOv10甚至YOLOv11之后,我们很高兴地推出 YOLO 系列的最新版本:YOLOv12!这个新版本采用了以注意力为中心的架构,改变了实时对象检测的方式。它还为准确性和效率树立了新标准。

YOLOv12 有什么新功能?

由于注意力机制效率低下,大多数对象检测架构传统上都依赖于卷积神经网络 (CNN),注意力机制需要应对二次计算复杂度低效的内存访问操作。因此,在 YOLO 框架中,基于 CNN 的模型通常优于基于注意力的系统,因为高推理速度至关重要。

YOLOv12试图通过三项关键改进来克服这些限制:

区域注意模块(A2):

  • YOLOv12 引入了简单高效的区域注意力模块(A2),将特征图分割成多个片段,以保留较大的感受野,同时降低传统注意力机制的计算复杂度。这一简单的修改使模型在提高速度和效率的同时,保留了较大的视野。

残差高效层聚合网络(R-ELAN):

  • YOLOv12 利用R-ELAN解决注意力机制带来的优化挑战。R-ELAN 在之前的ELAN架构基础上进行了改进,具体如下:
    • 块级残差连接缩放技术,确保稳定的训练
    • 重新设计的特征聚合方法,可提高性能效率

建筑改进:

  • FlashAttention:集成FlashAttention,解决注意力机制的内存访问瓶颈,优化内存操作,提升速度。
  • 去除位置编码:通过消除位置编码,YOLOv12 简化了模型,使其更快、更干净,同时又不牺牲性能。
  • 调整MLP比例:多层感知器(MLP)的扩展比例从4降低到1.2,以平衡注意力和前馈网络之间的计算负荷,提高效率
  • 减少块深度:通过减少架构中堆叠块的数量,YOLOv12 简化了优化过程并提高了推理速度
  • 卷积算子: YOLOv12 充分利用卷积算子来提高其计算效率,进一步提高性能并减少延迟。

架构概述

YOLOv12、YOLOV12 架构、YOLOv12 主干、YOLOv12 头部

 YOLOv12 框架。如上一节所述,我们现在将详细说明三个关键改进,即区域注意模块、残差高效层聚合网络 (R-ELAN) 模块和原始注意机制的改进。

区域注意模块

YOLOv12,YOLOv12注意力机制,Area Attention

残差高效层聚合网络(R-ELAN)

YOLOv12、YOLOv12聚合网络、YOLOv12中的R-ELAN

ELAN 概述: 

早期的 YOLO 模型中使用了高效层聚合网络 (ELAN)来改进特征聚合。ELAN 的工作原理如下:

  1. 分割1×1 卷积层的输出。
  2. 通过多个模块处理这些分割。
  3. 在应用另一个 1×1 卷积之前连接输出以对齐最终维度。

ELAN 的问题:

  1. 梯度阻塞:由于缺少从输入到输出的残差连接而导致不稳定。
  2. 优化挑战:注意力机制和架构可能导致收敛问题,即使使用 Adam 或 AdamW 优化器,L 和 X 规模模型也无法收敛或保持不稳定。

建议的解决方案——R-ELAN:

  1. 残差连接:引入从输入到输出的残差快捷方式,并带有缩放因子(默认值为 0.01),以提高稳定性。
  2. 层缩放类比:类似于深度视觉变换器中使用的层缩放,但避免了将层缩放应用于每个区域注意模块而导致的速度减慢。

新的聚合方法:

  1. 修改后的设计:新方法不再在过渡层后分割输出,而是调整通道尺寸并创建单个特征图。
  2. 瓶颈结构:在连接之前通过后续块处理特征图,形成更高效的聚合方法。

架构改进 

  • FlashAttention:YOLOv12 利用 FlashAttention,最大限度地减少内存访问开销。这解决了注意力机制的主要内存瓶颈,缩小了与 CNN 的速度差距。
  • MLP 比例调整:前馈网络扩展比例从 Transformers 中常见的 4 降低到 YOLOv12 中的 1.2 左右,避免 MLP 独霸运行时间,从而提高整体效率。
  • 删除位置编码:YOLOv12 在其注意层中省略了显式位置编码。这使得模型“快速而干净”,并且检测性能没有任何损失。
  • 减少堆叠块:最近的 YOLO 主干在最后阶段堆叠了三个注意力/CNN 块;而 YOLOv12 在该阶段仅使用单个 R-ELAN 块。较少的连续块可简化优化并提高推理速度,尤其是在更深的模型中。
  • 卷积运算符:该架构还使用具有批量规范的卷积而不是具有层规范的线性层,以充分利用卷积运算符的效率。

YOLOv12 的基准测试

YOLOv12、YOLOv12 比较、YOLOv12 基准

图 4:YOLOv12 比较

数据集:所有模型均在 MS COCO 2017 对象检测基准上进行评估。

YOLOv12-N 性能:最小的 YOLOv12-N 与 YOLOv10-N(38.5%)或 YOLOv11-N(39.4%)相比,实现了 40.6% 更高的 mAP,同时保持了相似的推理延迟。

YOLOv12-S 与 RT-DETR: YOLOv12-S 模型也优于 RT-DETR 模型。值得注意的是,它的运行速度比 RT-DETR-R18 模型快约 42%,而使用的计算量仅为 RT-DETR-R18 的约 36%,参数仅为 RT-DETR-R18 的约 45% 。 

deepsort介绍:

        请移步到我之前的文章有详细的关于deepsort内容的介绍。

两万字深入浅出yolov5+deepsort实现目标跟踪,含完整代码, yolov,卡尔曼滤波估计,ReID目标重识别,匈牙利匹配KM算法匹配_yolov5 deepsort-CSDN博客

yolov12结合deepsort实现目标跟踪

        此次yolov11的出现,将把yolov11和目标跟踪SOTA:deepsort进行结合,实现更快,更准,更细致的跟踪。

效果展示

训练与预测

b96dadec53aa4d96abfcfe3a2b475e3d.png

7f4e0c2e26b04f6dbcf6de96d54d6a8a.jpeg

UI设计

将本次的实验使用pyqt打包,方便体验

ac0cc101b34e42c28c25a9c2bbf8b20a.png

其他功能展示

其他功能演示参考yolov5+deepsort文章

两万字深入浅出yolov5+deepsort实现目标跟踪,含完整代码, yolov,卡尔曼滤波估计,ReID目标重识别,匈牙利匹配KM算法匹配_yolov5 deepsort-CSDN博客

完整代码实现+UI界面

视频,笔记和代码,以及注释都已经上传网盘,放在主页置顶文章

yolovDeepsort是一个结合了yolov5和DeepSORT算法的目标检测和目标跟踪框架。通过yolovDeepsort,我们可以实现在视频中快速准确地检测和跟踪人物。具体使用方法如下: 1. 首先,从指定链接下载ckpt.t7文件,并将其放置在"./deep_sort_pytorch/deep_sort/deep/checkpoint/"文件夹中。你也可以自行下载此文件并上传到相应的文件夹中。 2. 切换到"./yolovDeepsort/mywork"目录下,运行"dense_proposals_train_deepsort.py"脚本,为了正确标注人物的ID,此脚本需要在第三张图片开始标注,因此需要将0和1图片添加进去。命令如下: ``` cd /home/Custom-ava-dataset_Custom-Spatio-Temporally-Action-Video-Dataset/yolovDeepsort/mywork python dense_proposals_train_deepsort.py ../yolov5/runs/detect/exp/labels ./dense_proposals_train_deepsort.pkl show ``` 3. 运行上述脚本后,你将会得到一个包含标注信息的"dense_proposals_train_deepsort.pkl"文件。 4. 接下来,运行"yolov5_to_deepsort.py"脚本,使用deepsort算法关联人物的ID,并对"datasets/frames"目录中的图片进行检测。命令如下: ``` cd /home/Custom-ava-dataset_Custom-Spatio-Temporally-Action-Video-Dataset/yolovDeepsort/ wget https://drive.google.com/drive/folders/1xhG0kRH1EX5B9_Iz8gQJb7UNnn_riXi6 -O ./deep_sort_pytorch/deep_sort/deep/checkpoint/ckpt.t7 python yolov5_to_deepsort.py --source /home/Custom-ava-dataset_Custom-Spatio-Temporally-Action-Video-Dataset/Dataset/frames ``` 5. 运行结束后,你会发现一些ID是-1,这些表示deepsort未能检测到的数据。这可能是因为人物首次出现或者出现时间过短,导致deepsort无法分配一个唯一的ID给它们。 通过以上步骤,你可以成功使用yolovDeepsort进行目标检测目标跟踪
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值