爆改YOLOv8 | yolov8添加EMAttention注意力机制

不想敲代码！！！

于 2024-08-16 16:53:49 发布

阅读量395

点赞数 11

文章标签： YOLO yolov8 目标检测人工智能计算机视觉

本文链接：https://blog.csdn.net/weixin_43986124/article/details/141263567

版权

1，本文介绍

EMAttention（Efficient Multi-dimensional Attention）注意力机制的核心思想在于通过重塑特征图的通道维度和批次维度，优化特征的表达和计算效率。以下是EMAttention机制的主要思想和设计细节：

重塑通道到批次维度：
- 目标：将通道维度的信息映射到批次维度中，以便在计算中更有效地处理通道间的依赖关系。
- 实现方法：
  - 通道分组：将特征图的通道维度分组为多个子特征，这样每个组包含了原始通道维度的部分信息。
  - 批次维度重塑：通过对通道维度进行重塑，将其映射到批次维度上，从而使得每个分组可以在批次维度上进行处理。
全局信息编码：
- 目标：对每个通道的全局信息进行编码，以重新校准每个并行分支中的通道权重。
- 实现方法：
  - 全局特征提取：利用全局信息来评估每个通道的重要性，从而为通道分组中的特征分配适当的权重。
  - 自适应权重调整：基于全局信息调整每个通道的权重，以突出重要特征并抑制不重要的特征。
跨维度交互：
- 目标：捕获像素级别的关系，增强特征的表达能力。
- 实现方法：
  - 跨维度信息融合：在通道和空间维度之间进行交互，综合考虑通道信息和空间信息。
  - 像素级别关系捕获：通过跨维度交互来捕获和强化像素级别的关系，提升特征的表示能力和网络的整体性能。

EMAttention机制通过这些设计有效地减少了计算开销，同时保持了对重要特征和全局信息的关注。这种方法不仅提高了模型的计算效率，还增强了特征的表达能力，使得网络在处理复杂任务时能够更好地捕捉关键信息。、

下图为EMA结构图

关于EMA的详细介绍可以看论文:https://arxiv.org/vc/arxiv/papers/2305/2305.13563v1.pdf

本文将讲解如何将EMA融合进yolov8

话不多说，上代码！

2，将EMA融合进yolov8

2.1 步骤一

首先找到如下的目录'ultralytics/nn/modules'，然后在这个目录下创建一个ema.py文件，文件名字可以根据你自己的习惯起，然后将EMA的核心代码复制进去

import torch
from torch import nn
 
class EMA(nn.Module):
    def __init__(self, channels, factor=32):
        super(EMA, self).__init__()
        self.groups = factor
        assert channels // self.groups > 0
        self.softmax = nn.Softmax(-1)
        self.agp = nn.AdaptiveAvgPool2d((1, 1))
        self.pool_h = nn.AdaptiveAvgPool2d((None, 1))
        self.pool_w = nn.AdaptiveAvgPool2d((1, None))
        self.gn = nn.GroupNorm(channels // self.groups, channels // self.groups)
        self.conv1x1 = nn.Conv2d(channels // self.groups, channels // self.groups, kernel_size=1, stride=1, padding=0)
        self.conv3x3 = nn.Conv2d(channels // self.groups, channels // self.groups, kernel_size=3, stride=1, padding=1)
 
    def forward(self, x):
        b, c, h, w = x.size()
        group_x = x.reshape(b * self.groups, -1, h, w)  # b*g,c//g,h,w
        x_h = self.pool_h(group_x)
        x_w = self.pool_w(group_x).permute(0, 1, 3, 2)
        hw = self.conv1x1(torch.cat([x_h, x_w], dim=2))
        x_h, x_w = torch.split(hw, [h, w], dim=2)
        x1 = self.gn(group_x * x_h.sigmoid() * x_w.permute(0, 1, 3, 2).sigmoid())
        x2 = self.conv3x3(group_x)
        x11 = self.softmax(self.agp(x1).reshape(b * self.groups, -1, 1).permute(0, 2, 1))
        x12 = x2.reshape(b * self.groups, c // self.groups, -1)  # b*g, c//g, hw
        x21 = self.softmax(self.agp(x2).reshape(b * self.groups, -1, 1).permute(0, 2, 1))
        x22 = x1.reshape(b * self.groups, c // self.groups, -1)  # b*g, c//g, hw
        weights = (torch.matmul(x11, x12) + torch.matmul(x21, x22)).reshape(b * self.groups, 1, h, w)
        return (group_x * weights.sigmoid()).reshape(b, c, h, w)

2.2 步骤二

找到'ultralytics/nn/tasks.py'文件，注册EMAttention模块

在文件的开头导入我们的EMAttention模块，如下图所示

2.3 步骤三

在parse_model方法。我们找到如下的地方，然后添加EMA即可

到此注册成功,复制后面的yaml文件直接运行即可

yaml文件


# Ultralytics YOLO 🚀, AGPL-3.0 license
# YOLOv8 object detection model with P3-P5 outputs. For Usage examples see https://docs.ultralytics.com/tasks/detect
 
# Parameters
nc: 80  # number of classes
scales: # model compound scaling constants, i.e. 'model=yolov8n.yaml' will call yolov8.yaml with scale 'n'
  # [depth, width, max_channels]
  n: [0.33, 0.25, 1024]  # YOLOv8n summary: 225 layers,  3157200 parameters,  3157184 gradients,   8.9 GFLOPs
  s: [0.33, 0.50, 1024]  # YOLOv8s summary: 225 layers, 11166560 parameters, 11166544 gradients,  28.8 GFLOPs
  m: [0.67, 0.75, 768]   # YOLOv8m summary: 295 layers, 25902640 parameters, 25902624 gradients,  79.3 GFLOPs
  l: [1.00, 1.00, 512]   # YOLOv8l summary: 365 layers, 43691520 parameters, 43691504 gradients, 165.7 GFLOPs
  x: [1.00, 1.25, 512]   # YOLOv8x summary: 365 layers, 68229648 parameters, 68229632 gradients, 258.5 GFLOP
 
# YOLOv8.0n backbone
backbone:
  # [from, repeats, module, args]
  - [-1, 1, Conv, [64, 3, 2]]  # 0-P1/2
  - [-1, 1, Conv, [128, 3, 2]]  # 1-P2/4
  - [-1, 3, C2f, [128, True]]
  - [-1, 1, Conv, [256, 3, 2]]  # 3-P3/8
  - [-1, 6, C2f, [256, True]]
  - [-1, 1, Conv, [512, 3, 2]]  # 5-P4/16
  - [-1, 6, C2f, [512, True]]
  - [-1, 1, Conv, [1024, 3, 2]]  # 7-P5/32
  - [-1, 3, C2f, [1024, True]]
  - [-1, 1, SPPF, [1024, 5]]  # 9
 
# YOLOv8.0n head
head:
  - [-1, 1, nn.Upsample, [None, 2, 'nearest']]
  - [[-1, 6], 1, Concat, [1]]  # cat backbone P4
  - [-1, 3, C2f, [512]]  # 12
 
  - [-1, 1, nn.Upsample, [None, 2, 'nearest']]
  - [[-1, 4], 1, Concat, [1]]  # cat backbone P3
  - [-1, 3, C2f, [256]]  # 15 (P3/8-small)
  - [-1, 1, EMA, []]  # 16
 
  - [-1, 1, Conv, [256, 3, 2]]
  - [[-1, 12], 1, Concat, [1]]  # cat head P4
  - [-1, 3, C2f, [512]]  # 19 (P4/16-medium)
  - [-1, 1, EMA, []]  # 20
 
  - [-1, 1, Conv, [512, 3, 2]]
  - [[-1, 9], 1, Concat, [1]]  # cat head P5
  - [-1, 3, C2f, [1024]]  # 23 (P5/32-large)
  - [-1, 1, EMA, []]  # 24
 
  - [[16, 20, 24], 1, Detect, [nc]]  # Detect(P3, P4, P5)

# 关于EMA添加的位置还可以放在骨干网络,针对不同数据集位置不同,效果不同

不知不觉已经看完了哦，动动小手留个点赞吧--_--