YOLOv8改进 | 检测头篇 | 2024最新HyCTAS模型提出SAttention（自研轻量化检测头 -＞ 适用分割、Pose、目标检测）

已于 2024-03-26 08:38:53 修改
阅读量7.2k 收藏 54
点赞数 36
分类专栏： YOLOv8有效涨点专栏 文章标签： YOLO 深度学习 计算机视觉 人工智能 python YOLOv8 pytorch
于 2024-03-26 04:15:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/java1314777/article/details/136996898
版权
本文介绍了将HyCTAS的SAttention自注意力机制应用于YOLOv8检测头的创新方法，适用于目标检测、分割和关键点检测。详细阐述了基本原理，并提供了逐步添加检测头的教程，包括修改核心代码和yaml配置文件。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一、本文介绍

本文给大家带来的改进机制是由全新SOTA分割模型（Real-Time Image Segmentation via Hybrid Convolutional-TransformerArchitecture Search）HyCTAS提出的一种SelfAttention注意力机制，论文中叫该机制应用于检测头当中（论文中的分割效果展现目前是最好的）。我将其和我们YOLOv8的检测头集成在一起形成一个自注意力的分割检测头，当然本文的检测头同样适用于Pose和目标检测，本文中均有添加方法，本文内容为我独家创新。

 欢迎大家订阅我的专栏一起学习YOLO！  

专栏目录：YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制

专栏回顾：YOLOv8改进系列专栏——本专栏持续复习各种顶会内容——科研必备 

目录

一、本文介绍

二、基本原理介绍

三、核心代码

四、手把手教你添加检测头

4.1 修改一

4.2 修改二 

4.3 修改三 

4.4 修改四 

4.5 修改五

了解本专栏 订阅专栏 解锁全文
SAttention：一种基于自注意力机制的YOLOv8轻量化检测头，提升目标检测与多任务学习【附核心代码】
一键难忘的博客
02-08 2379
轻量化：保持较低的计算成本，适应资源有限的设备。高效的多任务学习能力：能够适应目标检测、实例分割、关键点检测（Pose Estimation）等多种计算机视觉任务。增强特征学习能力：通过引入选择性注意力机制，自动选择与任务最相关的特征进行学习，从而提高精度。本文深入探讨了基于YOLOv8模型的最新改进——自研轻量化检测头SAttention，并详细介绍了其在目标检测、实例分割、和姿态估计等多任务学习中的应用。
YOLOv8改进：HyCTAS模型提出SAttention轻量化检测头
走向CTO的路上...
08-12 1370
YOLOv8模型作为目前最先进的目标检测算法之一，在性能和精度方面都取得了显著进步。然而，YOLOv8模型的检测头仍然存在一些可以优化的地方。本文介绍一种基于SAttention的自研轻量化检测头，该检测头可以有效提升YOLOv8模型的精度和分割性能，同时保持较低的计算量。HyCTAS 模型提出了一种基于 SAttention 的轻量化检测头，可以有效提升 YOLOv8 模型的精度和分割性能，同时保持较低的计算量，为 YOLOv8 模型在移动端和嵌入式设备等资源受限场景的应用提供了新的可能。
【保姆级教程|YOLOv8替换检测头】融合改进检测头AFPN4（实测涨点明显）（包成功）（零基础教程）
最新发布
anzhi_1211的博客
03-24 1642
博客主要详细教学了在YOLOv8中替换AFPN4的超详细步骤，基本大家只要按步骤来就肯定可以复现成功，后续博主也会再更新一些关于YOLOv8的其他改进方法，期待大家多多关注！！！大家有想看的内容也可以在评论区留言！
YOLOv5改进 | Head | 将yolov5的检测头替换为ASFF_Detect
kay_545
06-12 4200
yolov5改进，asff检测头，asff
小目标检测篇 | YOLOv8改进之增加小目标检测层（四头检测机制）
突然好想你
03-24 2277
小目标检测是计算机视觉领域中的一个研究方向，旨在从图像或视频中准确地检测和定位尺寸较小的目标物体。本篇文章就给大家介绍如何在YOLOv8网络结构中如何添加小目标检测层。🌈
【YOLO改进】二、YOLOV11-检测头篇
qq_55068938的博客
01-24 8117
目标检测领域里，小目标一直是一个难点问题，虽然我们可以用YOLO+SAHI的方式进行滑动窗口推理以提升准确率，但是他的耗时会线性增强，毕竟一张大图会被切成很多小图去推理，所以在很多场景下无法得到应用。这里，我们从探测头入手，在原有的基础上在增加一个探测头以用于检测小目标。
YOLOv10改进 | 检测头篇 | ASFF改进YOLOv10检测头（辅助尺度融合检测头）
Snu77的博客
07-15 1934
本文给大家带来的改进机制是利用ASFF改进YOLOv10的检测头形成新的检测头，其主要创新是引入了一种自适应的空间特征融合方式，有效地过滤掉冲突信息，从而增强了尺度不变性。经过我的实验验证，修改后的检测头在所有的检测目标上均有大幅度的涨点效果，此版本为三头版本，后期我会在该检测头的基础上进行二次创新形成四头版本的Detect_ASFF助力小目标检测，本文的检测头非常推荐大家使用。YOLOv10改进系列专栏——本专栏持续复习各种顶会内容——科研必备目录一、本文介绍二、ASFF的基本框架原理。
yolov8检测头
fool996的博客
03-03 1万+
分别通过2个3x3的卷积和一个1x1的卷积来提取信息，最后分别结算Bbox.loss和CLs.loss。可以发现，3层卷积之后有一个for循环，来遍历所有的通道数（3通道），这也是大大加大计算量的原因。cv3: 一个 nn.ModuleList 对象，包含多个卷积层，用于预测每个锚点的类别信息；stride: 一个形状为(nl,）的张量，表示每个检测层的步长（stride）；yolov8中的检测头是yolov8中检测目标的关键，它几乎占了计算量的1/5。nl: 整数，表示检测模型中使用的检测层数；
YOLOv8改进有效系列目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制
热门推荐
Snu77的博客
12-30 15万+
Hello，各位读者们好，本专栏自开设两个月以来已经更新改进教程120+余篇其中包含C2f、主干、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新，订阅本专栏以后你不仅可以收获跟专栏的阅读权限，同时可以进Qq群，里面包含集成我所有创新的YOLO最新目录，和我本人录制的视频讲解教程，如果你想要在YOLOv8系列收获一篇论文，我相信订阅本专栏后你一定会有所收获~YOLOv8改进有效系列目录。
YOLOv8改进 | 检测头篇 | 利用DBB重参数化模块魔改检测头实现暴力涨点 (支持检测、分割、关键点检测)
Snu77的博客
01-16 5899
本文给大家带来的改进机制是二次创新的机制，二次创新是我们发表论文中关键的一环，本文给大家带来的二次创新机制是通过DiverseBranchBlock(DBB)模块来改进我们的检测头形成一个新的检测头Detect_DBB，其中DBB是一种重参数化模块，其训练时采用复杂结构，推理时使用单分支结构，从而能够在训练的时候提取更高效的特征，还不影响推理时候的速度，同时本文的检测头支检测、分割和关键点检测。欢迎大家订阅本专栏，本专栏每周更新3-5篇最新机制，更有包含我所有改进的文件和交流群提供给大家。
YOLOv8改进 | 主干/Backbone篇 | 2024最新重写星辰StarNet助力yolov8有效涨点（yolov8全系列轻量化）
Snu77的博客
12-17 2818
本文给大家带来的最新改进机制是Rewrite the Stars，其探讨了“星操作”（即元素级的乘法）在网络设计中的潜力。文章提出，星操作能够将输入映射到高维的非线性特征空间中，而不需要增加网络的宽度。这个过程类似于机器学习中的核技巧，但通过保持网络的紧凑性和低延迟实现了高效的计算。本文将其添加到YOLOv8中并且根据yolov8的N、S、M、L、X进行缩放和扩张，yolov8全系列可实现轻量化。
YOLOv11改进有效涨点专栏目录 | 含卷积、主干、注意力机制、Neck、检测头、损失函数、二次创新C2PSA/C3k2等各种网络结构改进
Snu77的博客
11-05 4万+
Hello，各位读者们好.本文为最新YOLOv11有效涨点专栏目录，YOLOv11以及发布了一个月左右，这个过程中我也是给大家整理了许多的机制，其中包含了C3k2、主干（均支持根据yolov11训练的版本进行二次缩放，全系列都能轻量化）、检测头、注意力机制、Neck多种结构上创新，也有损失函数和一些细节点上的创新。
芒果YOLOv5改进09：检测头Head篇多种检测解耦头系列：即插即用：首发最新更新超多种高精度&轻量化解耦检测头（最新检测头改进集合），内含多种检测头/解耦头改进，检测头高效涨点
包括YOLOv5、YOLOv7、YOLOv8等模型改进
03-21 9773
即插即用｜改进更新超多种高精度&轻量化解耦检测头（最新检测头改进集合），内含多种检测头/解耦头改进，高效涨点
检测头篇 | YOLOv8 添加 大目标检测头 | 小目标检测头 | 4头BiFPN
YOLOv8项目贡献者
04-24 1万+
YOLOv8 添加 大目标检测头 | 小目标检测头 🍀新增小目标头加 BiFPN
芒果YOLOv8改进16：检测头Head篇：即插即用｜新颖轻量化非对称多级压缩LADH检测头，原创改进适配YOLOv8高效检测头，检测头新颖性改进，全网首发独一份
包括YOLOv5、YOLOv7、YOLOv8等模型改进
06-04 4525
YOLOv8代码改进教程：即插即用｜新颖轻量化非对称多级压缩LADH检测头🎈
YOLO改进：添加额外的检测头
qq_36070656的博客
10-14 1万+
在YOLO中添加浅层检测头，提高对小目标的检测能力，并在VisDrone数据集中进行测试
YOLO/V1、V2、V3目标检测系列介绍
qq26983255的博客
09-04 3317
YOLO /V1 算法首先将图像缩放为448*448尺寸，随后把输入图像划分成S*S的格子（grider cell，论文中S=7），每个格子grider cell 都需对每个类别的概率进行预测，然后对每个格子都预测B(论文中为2)个bounding boxes，每个bounding box都包含5个预测值：x,y（bounding，box的中心点，girder cell的偏移值）,w,...
YOLOv8 | 代码逐行解析(四) | YOLOv8中从检测头到损失函数计算的详解，小白必看（上）
Snu77的博客
07-06 4472
本文给大家带来的是YOLOv8中从检测头结构分析到损失函数各种计算的详解，本文将从检测头的网络结构讲起，同时分析其中的原理（包括代码和网络结构图对比），最重要的是分析检测头的输出，因为检测头的输出是需要输出给损失函数的计算不同阶段的输出不一样所以我们在讲损失函数计算的时候需要先明白检测头的输出和其中的一些参数的定义，本文内容为我独家整理和分析，手打每一行的代码分析并包含各种举例分析对于小白来说绝对有所收获。目录一、本文介绍二、原理介绍2.1 YOLOv8解耦头2.2 YOLOv8解耦头代码分析。
yolov8涨点系列之增加检测头
zhang1379的博客
11-05 2891
yolov8涨点系列之增加检测头
yolov8改进轻量化
01-03
### YOLOv8 模型轻量化改进方法与实现方案 #### 使用 MobileNetV2 替换 Backbone 实现高效目标检测 为了使 YOLOv8 更加适用于资源受限的环境，一种有效的轻量化策略是采用更高效的骨干网络。具体来说，可以通过引入 MobileNetV2 来替代原有的 Darknet 或其他较重的特征提取器[^2]。 MobileNetV2 利用了倒残差结构 (Inverted Residuals) 和线性瓶颈 (Linear Bottlenecks)，这些设计使得它能够在减少参数数量的同时维持较高的表达能力。这种特性非常适合用于构建紧凑而强大的卷积神经网络架构，尤其适合移动设备和其他计算资源有限的情况。 ```python from ultralytics import YOLO import torch.nn as nn class LightWeightYOLO(nn.Module): def __init__(self, backbone='mobilenet_v2'): super(LightWeightYOLO, self).__init__() # 加载预训练好的 MobileNetV2 作为新backbone if backbone == 'mobilenet_v2': from torchvision.models import mobilenet_v2 self.backbone = mobilenet_v2(pretrained=True).features # 这里省略后续层定义... model = LightWeightYOLO() ``` #### 基于 SAttention 的轻量化检测头 HyCTAS 模型 除了优化主干网路外，还可以考虑改进头部的设计来进一步降低整体复杂度而不牺牲太多性能。HyCTAS 提出了利用自注意力机制（Self-Attention Mechanism），即所谓的 "SAttention" 轻量化检测头，这不仅增强了模型对于不同尺度物体的理解力，而且显著减少了所需的浮点运算次数[FN1]。 这种方法允许更好地捕捉全局上下文信息，并且由于其特殊的权重共享模式，即使在网络规模缩小的情况下也能保持良好的泛化效果。因此，当应用于 YOLOv8 中时，能够有效地改善检测精度并加快推理速度。 ```python def sattention_head(x): B, C, H, W = x.shape qkv = nn.Conv2d(C, 3*C, kernel_size=1)(x) q,k,v = torch.chunk(qkv, chunks=3, dim=1) attn = F.softmax(torch.matmul(F.normalize(k.flatten(2), p=2, dim=-1), F.normalize(q.flatten(2).transpose(-2,-1),p=2,dim=-1)),dim=-1) out = v * attn.unsqueeze(dim=1) return out.sum(dim=[2,3]) # 将上述函数集成到原有框架内即可完成改造 ```
评论 23
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Snu77

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值