[YOLOv7/YOLOv5系列算法改进NO.3]添加CoordAtt注意力机制

人工智能算法研究院

已于 2022-12-04 21:54:37 修改

阅读量6.7k

点赞数 2

分类专栏： YOLO算法改进系列文章标签：深度学习 python 计算机视觉

于 2022-06-20 20:14:25 首次发布

本文链接：https://blog.csdn.net/m0_70388905/article/details/125379685

版权

YOLO算法改进系列专栏收录该内容

138 篇文章 1438 订阅

订阅专栏

本文介绍了如何通过在YOLOv5中集成CoordAtt注意力机制来改善目标检测，步骤包括添加位置、创建模块、注册到yolo.py、修改yaml配置和训练。实验显示，这种改进在多种数据集上显著提升了检测效果，适用于科研和工程实践。

摘要由CSDN通过智能技术生成

前言：作为当前先进的深度学习目标检测算法YOLOv5，已经集合了大量的trick，但是在处理一些复杂背景问题的时候，还是容易出现错漏检的问题。此后的系列文章，将重点对YOLOv5的如何改进进行详细的介绍，目的是为了给那些搞科研的同学需要创新点或者搞工程项目的朋友需要达到更好的效果提供自己的微薄帮助和参考。

解决问题：加入CoordAtt注意力机制，可以让网络更加关注待检测目标，提高检测效果

添加方法：

第一步：确定添加的位置，作为即插即用的注意力模块，可以添加到YOLOv5网络中的任何地方。

第二步：common.py构建CoordAtt模块。

class h_sigmoid(nn.Module):
    def __init__(self, inplace=True):
        super(h_sigmoid, self).__init__()
        self.relu = nn.ReLU6(inplace=inplace)

    def forward(self, x):
        return self.relu(x + 3) / 6

class h_swish(nn.Module):
    def __init__(self, inplace=True):
        super(h_swish, self).__init__()
        self.sigmoid = h_sigmoid(inplace=inplace)

    def forward(self, x):
        return x * self.sigmoid(x)
        
class CoordAtt(nn.Module):
    def __init__(self, inp, oup, reduction=32):
        super(CoordAtt, self).__init__()
        self.pool_h = nn.AdaptiveAvgPool2d((None, 1))
        self.pool_w = nn.AdaptiveAvgPool2d((1, None))

        mip = max(8, inp // reduction)

        self.conv1 = nn.Conv2d(inp, mip, kernel_size=1, stride=1, padding=0)
        self.bn1 = nn.BatchNorm2d(mip)
        self.act = h_swish()
        
        self.conv_h = nn.Conv2d(mip, oup, kernel_size=1, stride=1, padding=0)
        self.conv_w = nn.Conv2d(mip, oup, kernel_size=1, stride=1, padding=0)
        

    def forward(self, x):
        identity = x
        
        n,c,h,w = x.size()
        x_h = self.pool_h(x)
        x_w = self.pool_w(x).permute(0, 1, 3, 2)

        y = torch.cat([x_h, x_w], dim=2)
        y = self.conv1(y)
        y = self.bn1(y)
        y = self.act(y) 
        
        x_h, x_w = torch.split(y, [h, w], dim=2)
        x_w = x_w.permute(0, 1, 3, 2)

        a_h = self.conv_h(x_h).sigmoid()
        a_w = self.conv_w(x_w).sigmoid()

        out = identity * a_w * a_h

        return out

第三步：yolo.py中注册CoordAtt模块，具体位置如图所示。

 if m in [Conv, GhostConv, Bottleneck, GhostBottleneck, SPP, SPPF, DWConv, MixConv2d, Focus, CrossConv, BottleneckCSP,
                 CoordAtt,CrossConv,C3,CTR3,C3TR,C3SPP, C3Ghost]:

第四步：修改yaml文件，本文以修改head（特征融合网络）为例，将原C3模块后加入该模块。

backbone:
  # [from, number, module, args]               # [c=channels,module,kernlsize,strides]
  [[-1, 1, Conv, [64, 6, 2, 2]],   # 0-P1/2           [c=3,64*0.5=32,3]
   [-1, 1, Conv, [128, 3, 2]],  # 1-P2/4    
   [-1, 3, C3, [128]],          #2                     
   [-1, 1, Conv, [256, 3, 2]],  # 3-P3/8            
   [-1, 6, C3, [256]],          #4
   [-1, 3, CoordAtt, [256]] ,   #5                   
   [-1, 1, Conv, [512, 3, 2]],  # 6-P4/16       
   [-1, 9, C3, [512]],          #7
   [-1, 3, CoordAtt, [512]],                     
   [-1, 1, Conv, [1024, 3, 2]],  # 9-P5/32
   [-1, 3, C3, [1024]],  # 10
   [-1, 3, CoordAtt, [1024]], #11
   [-1, 1, SPPF, [1024, 5]], #12
  ]

第五步：将train.py中改为本文的yaml文件即可，开始训练。

结果：本人在多个数据集上做了大量实验，针对不同的数据集效果不同，同一个数据集的不同添加位置方法也是有差异，需要大家进行实验。有效果有提升的情况占大多数。

预告一下：下一篇内容分享ECA轻量级通道注意力机制。有兴趣的朋友可以关注一下我，有问题可以留言或者私聊我哦

PS：Coordinate注意力机制，不仅仅是可以添加进YOLOv5，也可以添加进任何其他的深度学习网络，不管是分类还是检测还是分割，主要是计算机视觉领域，都可能会有不同程度的提升效果。

最后，希望能互粉一下，做个朋友，一起学习交流。