CV领域常用的注意力机制模块（SE、CBAM，怒斩腾讯和阿里的Offer

最新推荐文章于 2024-04-19 16:00:15 发布
最新推荐文章于 2024-04-19 16:00:15 发布
阅读量129 收藏
点赞数 3
分类专栏： 2024年程序员学习 文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_84164546/article/details/137558425
版权 
        out = self.relu(out)

        return out


 


### 二、CBAM模块（Convolutional Block Attention Module）


![在这里插入图片描述](https://img-blog.csdnimg.cn/20200603162817846.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjkwNzQ3Mw==,size_16,color_FFFFFF,t_70)  
 该注意力模块( CBAM )，可以在**通道和空间维度上进行 Attention** 。其包含两个子模块 **Channel Attention Module(CAM)** 和 **Spartial Attention Module(SAM)**。  
  


##### 1、CAM的结构是怎样的？与SE有何区别？


![在这里插入图片描述](https://img-blog.csdnimg.cn/20200603163856177.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjkwNzQ3Mw==,size_16,color_FFFFFF,t_70)  
 其结构如上图所示，相比SE，只是多了一个并行的Max Pooling层。那为什么加个并行的呢？结果导向，作者通过实验说明这样的效果好一些，我感觉其好一些的原因应该是多一种信息编码方式，使得获得的信息更加全面了吧，可能再加一些其他并行操作效果会更好？


##### 2、SAM的结构


![在这里插入图片描述](https://img-blog.csdnimg.cn/20200603164706942.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjkwNzQ3Mw==,size_16,color_FFFFFF,t_70)  
 将CAM模块输出的特征图作为本模块的输入特征图。首先做一个基于channel的**global max pooling** 和**global average pooling**，然后将这2个结果基于channel 做concat操作。然后经过一个卷积操作，降维为1个channel。再经过**sigmoid生成spatial attention feature**。最后将**该feature和该模块的输入feature做乘**法，得到最终生成的特征。下图是原文描述：  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20200603170208507.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjkwNzQ3Mw==,size_16,color_FFFFFF,t_70)


##### 3、组合方式


通道注意力和空间注意力这两个模块可以以并行或者顺序的方式组合在一起，但是作者发现顺序组合并且将通道注意力放在前面可以取得更好的效果。而且是先CAM再SAM效果会更好。论文还将结果可视化，对比发现添加了 CBAM 后，模型会更加关注识别物体:  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/202006031706528.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3dlaXhpbl80MjkwNzQ3Mw==,size_16,color_FFFFFF,t_70)


##### 4、CBAM的代码实现


CBAM的 **Pytorch** 实现：

class Channel_Attention(nn.Module):

def \_\_init\_\_(self, channel, r):
    super(Channel_Attention, self).__init__()

    self.__avg_pool = nn.AdaptiveAvgPool2d((1, 1))
    self.__max_pool = nn.AdaptiveMaxPool2d((1, 1))

    self.__fc = nn.Sequential(
        nn.Conv2d(channel, channel//r, 1, bias=False),
        nn.ReLU(True),
        nn.Conv2d(channel//r, channel, 1, bias=False),
    )
    self.__sigmoid = nn.Sigmoid()


def forward(self, x):
    y1 = self.__avg_pool(x)
    y1 = self.__fc(y1)

    y2 = self.__max_pool(x)
    y2 = self.__fc(y2)

    y = self.__sigmoid(y1+y2)
    return x \* y

class Spartial_Attention(nn.Module):

def \_\_init\_\_(self, kernel_size):
    super(Spartial_Attention, self).__init__()

    assert kernel_size % 2 == 1, "kernel\_size = {}".format(kernel_size)
    padding = (kernel_size - 1) // 2

    self.__layer = nn.Sequential(
        nn.Conv2d(2, 1, kernel_size=kernel_size, padding=padding),
        nn.Sigmoid(),
    )


def forward(self, x):
    avg_mask = torch.mean(x, dim=1, keepdim=True)
    max_mask, _ = torch.max(x, dim=1, keepdim=True)
    mask = torch.cat([avg_mask, max_mask], dim=1)

    mask = self.__layer(mask)
    return x \* mask




**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数Linux运维工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年Linux运维全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。**
![img](https://img-blog.csdnimg.cn/img_convert/7cb5c90653cb782eebd6ef3443bc70a7.png)
![img](https://img-blog.csdnimg.cn/img_convert/da1b634b17a61b591104ffad2b5178f7.png)
![img](https://img-blog.csdnimg.cn/img_convert/777b5b51f0f0d850c9908fca045a3fb5.png)
![img](https://img-blog.csdnimg.cn/img_convert/0afcd9fe8542dab2d52f6f8368d9f222.png)
![img](https://img-blog.csdnimg.cn/img_convert/dc662fe942fe153e3b2fb278ab06b488.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Linux运维知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip1024b （备注Linux运维获取）**
![img](https://img-blog.csdnimg.cn/img_convert/7ae4967e5a6c9c0c5b85876a353395ca.jpeg)



为了做好运维面试路上的助攻手，特整理了上百道 **【运维技术栈面试题集锦】** ，让你面试不慌心不跳，高薪offer怀里抱！

这次整理的面试题，**小到shell、MySQL，大到K8s等云原生技术栈，不仅适合运维新人入行面试需要，还适用于想提升进阶跳槽加薪的运维朋友。**

![](https://img-blog.csdnimg.cn/img_convert/58bcbbbb432e2973861a5412416ab3b2.png)

本份面试集锦涵盖了

*   **174 道运维工程师面试题**
*   **128道k8s面试题**
*   **108道shell脚本面试题**
*   **200道Linux面试题**
*   **51道docker面试题**
*   **35道Jenkis面试题**
*   **78道MongoDB面试题**
*   **17道ansible面试题**
*   **60道dubbo面试题**
*   **53道kafka面试**
*   **18道mysql面试题**
*   **40道nginx面试题**
*   **77道redis面试题**
*   **28道zookeeper**

**总计 1000+ 道面试题， 内容 又全含金量又高**

*   **174道运维工程师面试题**

> 1、什么是运维?

> 2、在工作中，运维人员经常需要跟运营人员打交道，请问运营人员是做什么工作的?

> 3、现在给你三百台服务器，你怎么对他们进行管理?

> 4、简述raid0 raid1raid5二种工作模式的工作原理及特点

> 5、LVS、Nginx、HAproxy有什么区别?工作中你怎么选择?

> 6、Squid、Varinsh和Nginx有什么区别，工作中你怎么选择?

> 7、Tomcat和Resin有什么区别，工作中你怎么选择?

> 8、什么是中间件?什么是jdk?

> 9、讲述一下Tomcat8005、8009、8080三个端口的含义？

> 10、什么叫CDN?

> 11、什么叫网站灰度发布?

> 12、简述DNS进行域名解析的过程?

> 13、RabbitMQ是什么东西?

> 14、讲一下Keepalived的工作原理?

> 15、讲述一下LVS三种模式的工作过程?

> 16、mysql的innodb如何定位锁问题，mysql如何减少主从复制延迟?

> 17、如何重置mysql root密码?

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**
![img](https://img-blog.csdnimg.cn/img_convert/ae68912afafbea3fd0446a8e39a8df97.jpeg)

减少主从复制延迟?

> 17、如何重置mysql root密码?

**一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**
[外链图片转存中...(img-h9JLDbPJ-1712652214977)]
2401_84164546
关注
  • 3
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
【YOLO】添加注意力机制（SE、CBAM、ECA、CA）
m0_37556124的博客
07-20 2409
注意力机制（attention mechanism）受人类视觉机制的研究，让网络学习更关注的特征。注意力机制主要有：自注意力(self-attention)、软注意力（soft-attention）、硬注意力(hard-attention)。其已经广泛应用于分类、检测、分割等任务。在models/common.py中注册SE模块以上就是今天要讲的内容，体验了使用yolov5进行推理的过程中加入不同的注意力模块，从而提高目标检测准确度，当然注意力种类繁多，也可以尝试排列组合使用，如上C3SE和C3CA。
卷积注意力模块 CBAM | CBAM: Convolutional Block Attention Module
最新发布
YOLOv8项目贡献者
04-28 1444
卷积注意力模块 CBAM
CBAM_MNIST.py
05-15
构建一个四层神经网络识别手写体数据集MNIST，然后将注意力模块CBAM插入到网络的第一层之后，查看注意力模块的性能。可以改变CBAM模块插入的位置，做到任意插入。
CBAM（Convolutional Block Attention Module）
06-06 1万+
前面介绍了CVPR2017发表的通道注意力机制：地址和
【CBAM】Convolutional Block Attention Module-即插即用的注意力模块，可多方面改进
向上生长的程序媛的博客
02-21 1748
详解经典CBAM模块的结构和具体应用场景。含论文下载和源码下载地址。
CBAM——即插即用的注意力模块（附代码）
热门推荐
Billie使劲学的博客
04-06 11万+
论文：CBAM: Convolutional Block Attention Module 代码：GitHub - Jongchan/attention-module: Official PyTorch code for "BAM: Bottleneck Attention Module (BMVC2018)" and "CBAM: Convolutional Block Attention Module (ECCV2018)" 前言 CBAM（Convolutional Block At..
CBAM
莫一丞元
09-06 582
CBAM是2018年的分类冠军，它和SE一样也是一个模型，现在任何流行网络都可以嵌入这个模块，那么它的由来是什么呢？ SE的由来是因为不同通道的像素的重要性可能不一样，那么既然这样，同一个通道的不同位置像素重要性也可能不一样，所以就有了CBAM，既考虑不同通道像素的重要性，又考虑了同一通道不同位置像素的重要性 Convolutional Block Attention Module(CBAM) 表示卷积模块的注意力机制模块。是一种结合了空间（spatial）和通道（channel）的注意力机制模块。相比于s
CBAM注意力机制（MatLab代码实现）
02-29
CBAM注意力机制（MatLab代码实现）
注意力机制 cnn keras_CBAM：卷积注意力机制模块
weixin_39985279的博客
11-19 4154
摘要本文提出了卷积注意力模块（CBAM），这是一种用于前馈卷积神经网络的简单而有效的注意力模块。 给定一个中间特征图，CBAM模块会沿着两个独立的维度（通道和空间）依次推断注意力图，然后将注意力图与输入特征图相乘以进行自适应特征优化。 由于CBAM是轻量级的通用模块，因此可以忽略的该模块的开销而将其无缝集成到任何CNN架构中，并且可以与基础CNN一起进行端到端训练。 本文通过在ImageNet-1...
Yolov5 网络改进之增加SE、CBAM、CA、ECA等注意力机制
认真努力，做一只会飞的毛毛虫。
04-30 1万+
本文以Yolov5 6.0版本为例，讲解如何添加SE、CA、ECA、CBAM等即插即用的小模块，可同时适配其他网络结构。在这之前需要明白yolov5文件夹的三个小点： models\common.py，Yolov5网络的所有模块都在该文件内实现，我们的改进也在该文件中进行。 models\yolo.py，parse_model方法是对网络结构进行整体搭建，同时起到注册common.py中各类模块的作用。 models\yolov5m.yaml(以m结构为例)，网络的配置文件，models\yolo.p
计算机视觉中的注意力模块———CBAM
practical_sharp的博客
03-10 8233
CBAM: Convolutional Block Attention Module 本篇文章录用于ECCV2018：CBAM：卷积块注意模块 论文地址：https://arxiv.org/pdf/1807.06521.pdf 非官方代码实现：https://github.com/Youngkl0726/Convolutional-Block-Attention-Module/blob/master/CBAMNet.py 摘要： 本文提出了卷积attention模块，一种简单而有效的前馈卷积神经网络
CBAM: 卷积块注意模块
qq_40107571的博客
10-29 779
CBAM: 卷积块注意模块
即插即用的涨点模块之注意力机制（CBAMAttention）详解及代码，可应用于检测、分割、分类等各种算法领域
qq_51511878的博客
04-19 6488
CE模块通常只注意了通道特征，但在视觉任务中，空间任务通常更为重要，是不可忽略的，因此CBAM将通道注意力机制与空间注意力机制进行串联，充分关注特征信息。什么是空间特征？在深度学习中，空间特征是指描述输入数据在空间维度上的特征信息。对于图像数据而言，空间特征可以涵盖多种信息，包括边缘、角点、纹理、颜色等。这些特征信息可以帮助模型理解图像中不同区域的内容和结构，从而实现诸如目标检测、图像分割、图像分类等任务。
CBAM模块--解读每一行pytorch代码
weixin_44912950的博客
07-22 1584
再使用一个全连接层将中间维度的向量映射回原始的空间维度，生成注意力权重。通过以上步骤，CBAM模块能够同时考虑特征图中每个通道和每个空间位置的重要性，从而增强网络对重要特征的表示和选择，提高模型性能。这个卷积层的输入通道数为 2，输出通道数为 1，卷积核大小为 7x7，步长为 1，填充为 3。：通道注意力模块主要关注特征图中的通道信息，以学习每个通道的重要性权重。：将特征图的每个通道内的元素取平均，得到每个通道的平均值。：将通道注意力模块和空间注意力模块得到的注意力权重相乘，得到最终的综合注意力权重。
【深度学习注意力机制系列】—— CBAM注意力机制（附pytorch实现）
qq_43456016的博客
08-09 3万+
CBAM旨在克服传统卷积神经网络在处理不同尺度、形状和方向信息时的局限性。通道注意力和空间注意力。通道注意力有助于增强不同通道的特征表示，而空间注意力有助于提取空间中不同位置的关键信息。总之，CBAM模块通过自适应地学习通道和空间注意力权重，以提高卷积神经网络的特征表达能力。通过将通道注意力和空间注意力结合起来，CBAM模块能够在不同维度上捕获特征之间的相关性，从而提升图像识别任务的性能。
【卷积神经网络系列】十八、CBAM
traveller的博客
09-28 1070
CBAM
转载：CBAM
qq_42251157的博客
05-09 1610
文章目录 前言一、什么是CBAM？Channel attention moduleSpatial attention module二、Pytorch实现CBAM总结 CBAM：Convolutional Block Attention Module 论文地址：https://arxiv.org/pdf/1807.06521.pdf 前言 CBAM是轻量级的卷积块注意力模型，它可以添加到任何CNN架构中，提升模型的性能。它总结了之前做过的关于注意力机制应用到图像领域的工作，链接如下 https://arxi
CBAM解析及代码（Pytorch）
Ethan_Rich的博客
03-23 1668
CBAM，全称Convolutional Block Attention Module，是一种注意力机制模块，用于增强卷积神经网络（CNN）的特征表达能力。该模块由通道注意力模块和空间注意力模块两部分组成，能够分别关注输入特征图的通道信息和空间信息，进而提升模型对于重要特征的关注度。在通道注意力模块中，CBAM通过全局平均池化和最大池化操作捕获通道间的依赖关系，生成两个通道描述子。这两个描述子随后通过共享的全连接层和ReLU激活函数进行变换，再经过Sigmoid函数得到通道注意力权重。
注意力模型CBAM
年轻即出发，
08-03 8万+
论文：CBAM: Convolutional Block Attention Module    Convolutional Block Attention Module (CBAM) 表示卷积模块的注意力机制模块。是一种结合了空间（spatial）和通道（channel）的注意力机制模块。相比于senet只关注通道（channel）的注意力机制可以取得更好的效果。   基于传统VGG结构...
FCA注意力机制代码
10-10
FCA（Feature-wise Linear Modulation with Composite Attention）注意力机制是一种用于计算机视觉任务的注意力模型。下面是一个示例代码，展示了如何实现FCA注意力机制： ```python import torch import torch.nn as nn import torch.nn.functional as F class FCAAttention(nn.Module): def __init__(self, input_dim, hidden_dim): super(FCAAttention, self).__init__() self.fc1 = nn.Linear(input_dim, hidden_dim) self.fc2 = nn.Linear(hidden_dim, 1) def forward(self, input): x = F.relu(self.fc1(input)) attention_weights = F.softmax(self.fc2(x), dim=1) attended_input = torch.mul(attention_weights, input) output = torch.sum(attended_input, dim=1) return output # 示例用法 input_dim = 512 # 输入维度 hidden_dim = 256 # 隐藏层维度 attention = FCAAttention(input_dim, hidden_dim) input = torch.randn(32, input_dim) # 输入数据，32表示batch size output = attention(input) # FCA注意力机制的输出 print(output.shape) # 输出形状 ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值