YOLOv8涨点技巧，添加SwinTransformer注意力机制，提升目标检测效果

目录

摘要

SwinTransformer原理

代码实现

YOLOv8详细添加步骤

 ymal文件内容

one_swinTrans

three_swinTrans

启动命令

完整代码分享

---

摘要

Swin Transformer通过引入创新的分层注意力机制展现了其架构的独特性，该机制通过将注意力区域划分为块并在这些块内执行操作，从而有效降低了计算复杂性。其主要结构呈现分层形式，每个阶段包括一组基础块，负责捕捉不同层次的特征表示，形成了分层的特征提取过程。采用多尺度的注意力机制使得模型能够同时关注不同大小的特征，从而提高对图像中不同尺度信息的感知。在多个图像分类基准数据集上，Swin Transformer表现出与其他先进模型相媲美甚至更优的性能，且在相对较少的参数和计算成本下取得出色的结果。其模块化设计使得它在目标检测和语义分割等其他计算机视觉任务上也具备良好的通用性。

SwinTransformer原理

Swin Transformer 的一个关键设计元素是连续自注意力层之间窗口分区的移动，如图所示。移动的窗口桥接了前一层的窗口，提供了它们之间的连接，从而显着增强了建模能力。这种策略在现实世界的延迟方面也很有效：窗口内的所有查询补丁共享相同的密钥，这有利于硬件中的内存访问。相比之下，早期基于滑动窗口的自注意力方法 由于不同查询像素的键集不同，因此在通用硬件上延迟较低。

Swin Transformer 架构中计算自注意力的移位窗口方法的图示