改进YOLOv7系列：23.YOLOv7添加CBAM注意力机制

已于 2023-03-14 09:56:08 修改
阅读量1.1w 收藏 162
点赞数 12
分类专栏： YOLOv7模型改进 文章标签： 深度学习 计算机视觉 目标检测
于 2022-09-01 21:48:55 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_38668236/article/details/126652075
版权

最新创新点改进推荐

-💡统一使用 YOLO 代码框架，结合不同模块来构建不同的YOLO目标检测模型。

🔥 《芒果书》系列改进专栏内的改进文章，均包含多种模型改进方式，均适用于YOLOv3 、YOLOv4 、 YOLOR 、 YOLOX 、YOLOv5 、 YOLOv7 、 YOLOv8 改进（重点）！！！

🔥 专栏创新点教程 均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！ 包括COCO数据集也能涨点

所有文章博客均包含 改进源代码部分，一键训练即可

🔥 对应专栏订阅的越早，就可以越早使用原创创新点去改进模型，抢先一步

点击查看详情：YOLOv5改进、YOLOv7改进｜YOLO改进超过50种注意力机制，全篇共计30万字（内附改进源代码），原创改进50种Attention注意力机制和Transformer自注意力机制

芒果书 点击以下链接 查看文章目录详情🔗

文章目录

YOLOv5、YOLOv7 + 注意力机制一览

YOLOv5 + ShuffleAttention注意力机制
博客链接🔗🌟：改进YOLOv5系列：12.添加ShuffleAttention注意力机制
YOLOv5 + CrissCrossAttention注意力机制
博客链接🔗🌟：改进YOLOv5系列：13.添加CrissCrossAttention注意力机制
YOLOv5 + S2-MLPv2注意力机制
博客链接🔗🌟：改进YOLOv5系列：14.添加S2-MLPv2注意力机制
YOLOv5 + SimAM注意力机制
博客链接🔗🌟：改进YOLOv5系列：15.添加SimAM注意力机制
YOLOv5 + SKAttention注意力机制
博客链接🔗🌟：改进YOLOv5系列：16.添加SKAttention注意力机制
YOLOv5 + NAMAttention注意力机制
博客链接🔗🌟：改进YOLOv5系列：17.添加NAMAttention注意力机制
YOLOv5 + SOCA注意力机制
博客链接🔗🌟：改进YOLOv5系列：18.添加SOCA注意力机制
YOLOv5 + CBAM注意力机制
博客链接🔗🌟：改进YOLOv5系列：18.添加CBAM注意力机制
YOLOv5 + SEAttention注意力机制
博客链接🔗🌟：改进YOLOv5系列：19.添加SEAttention注意力机制
YOLOv5 + GAMAttention注意力机制
博客链接🔗🌟：改进YOLOv5系列：20.添加GAMAttention注意力机制
YOLOv5 + CA注意力机制
博客链接🔗🌟：github
YOLOv5 + ECA注意力机制 博客链接🔗🌟：github
更多模块详细解释持续更新中。。。

之后继续更新🔥🔥🔥

第一种、YOLOv7使用CBAM注意力机制

CBAM注意力机制原理图

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

1.1增加以下CBAM.yaml文件

# YOLOv7 🚀, GPL-3.0 license
# parameters
nc: 80  # number of classes
depth_multiple: 0.33  # model depth multiple
width_multiple: 1.0  # layer channel multiple

# anchors
anchors:
  - [12,16, 19,36, 40,28]  # P3/8
  - [36,75, 76,55, 72,146]  # P4/16
  - [142,110, 192,243, 459,401]  # P5/32

# yolov7 backbone by yoloair
backbone:
  # [from, number, module, args]
  [[-1, 1, Conv, [32, 3, 1]],  # 0
   [-1, 1, Conv, [64, 3, 2]],  # 1-P1/2
   [-1, 1, Conv, [64, 3, 1]],
   [-1, 1, Conv, [128, 3, 2]],  # 3-P2/4 
   [-1, 1, CNeB, [128]], 
   [-1, 1, Conv, [256, 3, 2]], 
   [-1, 1, MP, []],
   [-1, 1, Conv, [128, 1, 1]],
   [-3, 1, Conv, [128, 1, 1]],
   [-1, 1, Conv, [128, 3, 2]],
   [[-1, -3], 1, Concat, [1]],  # 16-P3/8
   [-1, 1, Conv, [128, 1, 1]],
   [-2, 1, Conv, [128, 1, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [-1, 1, Conv, [128, 3, 1]],
   [[-1, -3, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [512, 1, 1]],
   [-1, 1, MP, []],
   [-1, 1, Conv, [256, 1, 1]],
   [-3, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [256, 3, 2]],
   [[-1, -3], 1, Concat, [1]],
   [-1, 1, Conv, [256, 1, 1]],
   [-2, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [-1, 1, Conv, [256, 3, 1]],
   [[-1, -3, -5, -6], 1, Concat, [1]],
   [-1, 1, Conv, [1024, 1, 1]],          
   [-1, 1, MP, []],
   [-1, 1, Conv, [512, 1, 1]],
   [-3, 1, Conv, [512, 1, 1]],
   [-1, 1, Conv, [512, 3, 2]],
   [[-1, -3], 1, Concat, [1]],
   [-1, 1, CNeB, [1024]],
   [-1, 1, Conv, [256, 3, 1]],
  ]

# yolov7 head by yoloair
head:
  [[-1, 1, SPPCSPC, [512]],
   [-1, 1, Conv, [256, 1, 1]],
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],
   [31, 1, Conv, [256, 1, 1]],
   [[-1, -2], 1, Concat, [1]],
   [-1, 1, C3C2, [128]],
   [-1, 1, Conv, [128, 1, 1]],
   [-1, 1, nn.Upsample, [None, 2, 'nearest']],
   [18, 1, Conv, [128, 1, 1]],
   [[-1, -2], 1, Concat, [1]],
   [-1, 1, C3C2, [128]],
   [-1, 1, MP, []],
   [-1, 1, Conv, [128, 1, 1]],
   [-3, 1, CBAM, [128]],
   [-1, 1, Conv, [128, 3, 2]],
   [[-1, -3, 44], 1, Concat, [1]],
   [-1, 1, C3C2, [256]], 
   [-1, 1, MP, []],
   [-1, 1, Conv, [256, 1, 1]],
   [-3, 1, Conv, [256, 1, 1]],
   [-1, 1, Conv, [256, 3, 2]], 
   [[-1, -3, 39], 1, Concat, [1]],
   [-1, 3, C3C2, [512]],

# 检测头 -----------------------------
   [49, 1, RepConv, [256, 3, 1]],
   [55, 1, RepConv, [512, 3, 1]],
   [61, 1, RepConv, [1024, 3, 1]],

   [[62,63,64], 1, IDetect, [nc, anchors]],   # Detect(P3, P4, P5)
  ]

1.2common.py配置

./models/common.py文件增加以下模块

class ChannelAttentionModule(nn.Module):
    def __init__(self, c1, reduction=16):
        super(ChannelAttentionModule, self).__init__()
        mid_channel = c1 // reduction
        self.avg_pool = nn.AdaptiveAvgPool2d(1)
        self.max_pool = nn.AdaptiveMaxPool2d(1)

        self.shared_MLP = nn.Sequential(
            nn.Linear(in_features=c1, out_features=mid_channel),
            nn.LeakyReLU(0.1, inplace=True),
            nn.Linear(in_features=mid_channel, out_features=c1)
        )
        self.act = nn.Sigmoid()
        #self.act=nn.SiLU()
    def forward(self, x):
        avgout = self.shared_MLP(self.avg_pool(x).view(x.size(0),-1)).unsqueeze(2).unsqueeze(3)
        maxout = self.shared_MLP(self.max_pool(x).view(x.size(0),-1)).unsqueeze(2).unsqueeze(3)
        return self.act(avgout + maxout)
        
class SpatialAttentionModule(nn.Module):
    def __init__(self):
        super(SpatialAttentionModule, self).__init__()
        self.conv2d = nn.Conv2d(in_channels=2, out_channels=1, kernel_size=7, stride=1, padding=3)
        self.act = nn.Sigmoid()
    def forward(self, x):
        avgout = torch.mean(x, dim=1, keepdim=True)
        maxout, _ = torch.max(x, dim=1, keepdim=True)
        out = torch.cat([avgout, maxout], dim=1)
        out = self.act(self.conv2d(out))
        return out

class CBAM(nn.Module):
    def __init__(self, c1,c2):
        super(CBAM, self).__init__()
        self.channel_attention = ChannelAttentionModule(c1)
        self.spatial_attention = SpatialAttentionModule()

    def forward(self, x):
        out = self.channel_attention(x) * x
        out = self.spatial_attention(out) * out
        return out

1.3yolo.py配置

在 models/yolo.py文件夹下

  • 定位到parse_model函数中
  • for i, (f, n, m, args) in enumerate(d['backbone'] + d['head']):内部
  • 对应位置 下方只需要新增以下代码
elif m is CBAM:
    c1, c2 = ch[f], args[0]
    if c2 != no:
        c2 = make_divisible(c2 * gw, 8)
    args = [c1, c2]

1.4训练模型

python train.py --cfg CBAM.yaml

往期YOLO改进教程导航

11.改进YOLOv5系列：11.ConvNeXt结合YOLO | CVPR2022 多种搭配，即插即用 | Backbone主干CNN模型

10.改进YOLOv5系列：10.最新HorNet结合YOLO应用首发！ | ECCV2022出品，多种搭配，即插即用 | Backbone主干、递归门控卷积的高效高阶空间交互

9.改进YOLOv5系列：9.BoTNet Transformer结构的修改

8.改进YOLOv5系列：8.增加ACmix结构的修改,自注意力和卷积集成

7.改进YOLOv5系列：7.修改DIoU-NMS,SIoU-NMS,EIoU-NMS,CIoU-NMS,GIoU-NMS

6.改进YOLOv5系列：6.修改Soft-NMS,Soft-CIoUNMS,Soft-SIoUNMS

5.改进YOLOv5系列：5.CotNet Transformer结构的修改

4.改进YOLOv5系列：4.YOLOv5_最新MobileOne结构换Backbone修改

3.改进YOLOv5系列：3.Swin Transformer结构的修改

2.改进YOLOv5系列：2.PicoDet结构的修改

1.改进YOLOv5系列：1.多种注意力机制修改

芒果汁没有芒果
关注
专栏目录
YOLOV7在不同位置添加CBAM注意力机制
m0_51530640的博客
01-25 4865
yolov7在不同位置添加CBAM注意力机制
YOLOv5改进：添加注意力机制实战视频.zip
最新发布
09-09
13 CBAM注意力机制原理.mp4 14 添加CBAM及C3CBAM.mp4 15 ECA注意力机制原理.mp4 16 添加ECA及C3ECA.mp4 17 CA注意力机制原理.mp4 18 添加CA及C3CA.mp4 yolov5添加注意力机制-ubuntu.pdf yolov5添加注意力机制-...
改进YOLOv5、YOLOv8系列：14.添加S2-MLPv2注意力机制
包括YOLOv5、YOLOv7、YOLOv8等模型改进
08-24 8325
目标检测科研Trick改进推荐 | 包括Backbone、Neck、Head、注意力机制、IoU损失函数、NMS、Loss计算方式、自注意力机制、数据增强部分、激活函数
【YOLOv5/v7改进系列】引入卷积块注意力模块CBAM注意力机制
2401_84870184的博客
08-02 1183
提出了一种名为卷积块注意力模块（Convolutional Block Attention Module, CBAM）的技术，这是一种简单而有效的注意力机制，可以集成到现有的卷积神经网络（CNN）架构中以提升性能。下面是该技术的一些优点和潜在的局限性或缺点。
Yolov5 中添加注意力机制 CBAM
ruotianxia的博客
09-03 4544
从上图中可以看到，前面的卷积神经网络提前特征后，分别进行两个通道注意力计算，两个通道可以并行也可以串行，但是原作者在实验中发现，串行且channel在spatial之前，性能会更好。CBAM将这两个注意力模块嵌入到CNN的卷积层之间，以增强网络对重要特征的关注度。在common.py的尾部添加如下代码，即Channel Attention 模块、Spatial Attention模块、CBAMC3模块。如果运行之后的网络输出中，出现CBAMC3，则说明添加成功，下面就是等待训练的结果。
注意力机制之SK Attention
qq_38915354的博客
03-22 5212
注意力机制
yolov5添加注意力机制（CBAM）
kay_545
10-03 8222
引入CBAM后，YOLOv5在基础骨干网的每个残差单元的最后添加了CBAM模块，并在中间层的SPP（Spatial Pyramid Pooling）层后也添加了CBAM模块。总之，通过引入CBAM注意力机制，YOLOv5改进了网络的基础骨干网、中间层和检测头，使得模型能够更好地捕捉特征之间的依赖关系，提高特征表示能力和检测精度。通过结合通道注意力和空间注意力，CBAM注意力机制能够自适应地调整不同通道和空间位置的重要性，从而提升模型对图像特征的表达能力。，将CBAM添加到我们想添加的位置。
YOLOv5改进--添加CBAM注意力机制
weixin_57130167的博客
11-21 6794
YOLOV5改进方式，添加注意力机制，有很多添加方式，文中列举一种。
基于CBAM空间注意力机制改进YOLOv5的公路智能巡检系统.zip
02-06
标题中的“基于CBAM空间注意力机制改进YOLOv5的公路智能巡检系统”表明了这是一个利用计算机视觉技术，特别是深度学习模型YOLOv5，针对公路巡检场景进行优化的项目。CBAM（Convolutional Block Attention Module）是...
CBAM注意力机制代码，以及如何对yolov5进行改进
12-06
首先，我们来了解什么是CBAM注意力机制。CBAM由两个主要部分组成：通道注意力和空间注意力。通道注意力通过全局池化操作（全局最大池化和全局平均池化）捕捉特征映射的全局上下文信息，然后通过卷积层和Sigmoid激活...
YOLOv5添加注意力机制的具体步骤
thy0000的博客
06-06 2万+
本文主要介绍了 本文在此篇博客的基础上向YOLOv5-5.0版 本文主要包括以下内容一、CBAM注意力机制添加（1）修改yolov5s主干网络（2）在common.py中添加可调用的CBAM模块（3）向yolo.py文件添加CBAMC3判断语句二、SE注意力机制添加 本文以yolov5s网络为例 一、CBAM注意力机制添加 注意力机制可以添加在backbone，Neck，Head等部分，接下来本文以backbone主干网络为例 （1）修改yolov5s主干网络 1.在yolov5-5.0工程文件夹下，找到m
YOLO V5（6.0）添加CBAM、SENet、CA注意力机制手把手教程
weixin_55200566的博客
05-26 3661
3）在models文件夹下创建yaml文件，命名为yolov5-cbam.yaml。3）在models文件夹下创建yaml文件，命名为yolov5-se.yaml。3）在models文件夹下创建yaml文件，命名为yolov5-ca.yaml。---cfg中添加yaml文件路径(与CBAM添加路径一致)---cfg中添加yaml文件路径(与CBAM添加路径一致)---cfg中添加yaml文件路径。4）在train.py中修改。4）在train.py中修改。4）在train.py中修改。
YOLOv5改进之添加CBAM注意力机制
qq_46542320的博客
06-27 3529
在其后面添加：CBAMBottleneck，C3CBAM。这里是将backbone中的C3全部替换成了C3CBAM。
即插即用的涨点模块之注意力机制（SKAttention）详解及代码，可应用于检测、分割、分类等各种算法领域
qq_51511878的博客
04-20 4524
SKNet来源：CVPR2019官方代码：什么是感受野？感受野（receptive field）是指在网络的前向传播过程中，每个神经元对输入数据的区域大小。换句话说，它表示了神经元在输入空间中接收信息的范围。在图像处理任务中，神经元的感受野大小通常与输入图像的像素大小有关。较小的感受野可以捕获局部细节，而较大的感受野则可以捕获更大范围的整体结构和语境信息。因此，设计合适大小的感受野对于不同的任务和网络架构至关重要。SKAttention能够根据输入动态选择不同大小的卷积核。
涨点技巧：注意力机制---Yolov5/Yolov7引入CBAM、GAM、Resnet_CBAM
03-17 9261
注意力机制全家桶系列之引入CBAM和GAM到yolo，结合通道和空间的注意力机制模块取得了涨点
改进YOLOv8：添加CBAM注意力机制（涨点明显）
Java开发，人工智能，边缘计算，致力于掌握前沿技术
01-15 1万+
计算机视觉中的注意力机制是一种聚焦于局部信息的机制，其基本思想是让系统学会忽略无关信息而关注重点信息。这种机制在图像识别、物体检测和人脸识别等任务中都发挥了重要作用。注意力机制的实现方法有多种，其中包括模型、模型、模型等。这些模型可以将图像中的关键信息提取出来，并通过抑制无用信息来提高模型的性能。在计算机视觉中，注意力机制被广泛应用于各种任务，如目标检测、图像分类、人脸识别等。通过引入注意力机制，计算机视觉系统可以更加高效地处理图像数据，减少计算资源的浪费，同时提高模型的性能和准确性。
详解YOLOv8网络结构/环境搭建/数据集获取/训练/推理/验证/导出/部署
热门推荐
Snu77的博客
10-28 5万+
YOLO（You Only Look Once）系列算法因其高效、准确等特点而备受瞩目。由2023年Ultralytics公司发布了YOLO的最新版本YOLOv8是结合前几代YOLO的基础上的一个融合改进版。本文YOLOv8网络结构/环境搭建/数据集获取/训练/推理/验证/导出/部署，从网络结构的讲解从模型的网络结构讲解到模型的部署都有详细介绍，同时在本专栏中还包括YOLOv8模型系列的改进包括个人提出的创新点，传统卷积、注意力机制、损失函数的修改教程，能够帮助你的论文获得创新点。
yolov8添加注意力机制模块-CBAM
搬砖小能手
02-25 4277
3.修改yolov8.yaml文件位置（ultralytics-main/ultralytics-main - attention/ultralytics/cfg/models/v8/yolov8.yaml）。修改head模块，修改的内容如下图。4.测试打印网络。已经添加成功。
yolov8添加cbam注意力机制
weixin_44240141的博客
12-05 2678
yolov8添加cbam注意力机制
yolov8添加注意力机制CBAM
08-30
您好！对于在YOLOv8中添加注意力机制CBAM，可以按照以下步骤进行： 1. 导入必要的模块和库： ```python import torch import torch.nn as nn ``` 2. 定义CBAM模块： ```python class CBAM(nn.Module): def __init__(self, channels, reduction=16): super(CBAM, self).__init__() self.channels = channels self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.fc1 = nn.Conv2d(channels, channels // reduction, kernel_size=1, padding=0) self.relu = nn.ReLU(inplace=True) self.fc2 = nn.Conv2d(channels // reduction, channels, kernel_size=1, padding=0) self.sigmoid_channel = nn.Sigmoid() self.conv_after_concat = nn.Conv2d(2, 1, kernel_size=3, stride=1, padding=1) self.sigmoid_spatial = nn.Sigmoid() def forward(self, x): avg_out = self.fc2(self.relu(self.fc1(self.avg_pool(x)))) max_out = self.fc2(self.relu(self.fc1(self.max_pool(x)))) channel_out = self.sigmoid_channel(avg_out + max_out) spatial_out = torch.cat([avg_out, max_out], dim=1) spatial_out = self.conv_after_concat(spatial_out) spatial_out = self.sigmoid_spatial(spatial_out) return x * channel_out * spatial_out ``` 3. 在YOLOv8的特征提取部分使用CBAM模块： ```python class YOLOv8(nn.Module): def __init__(self): super(YOLOv8, self).__init__() # ... self.cbam = CBAM(channels=XX) # ... def forward(self, x): # ... x = self.cbam(x) # ... return x ``` 请注意，上述代码中的`XX`需要替换为适合您的网络的通道数。这是一个简单的示例，您还可以根据需要进行更改和调整。 希望能对您有所帮助！如果您有任何疑问，请随时提问。
评论 46
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

芒果汁没有芒果

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值