CBAM的讲解

前言:

通道注意力让网络 关注图像“是什么”,而空间注意力则让网络关注图像 中物体“在哪“

1.概念

CBAM是一种简单而有效的卷积神经网络注意力模块

在卷积神经网络任意给定一个中间特征图,CBAM将注意力映射 沿特征图的通道空间两个独立的维度进行注入

然后将注意力乘以输入特征映射,对输入的特征图进行自适应特征细化。

因为CBAM是一种端到端的通用模块,它可以无缝的集成到CNNs中,并且可以与基本CNNs一起端到端的训练。

2 具体过程

CBAM 中的通道注意力空间注意力结构如下图所示

          给定一个中间特征图 作为输入,CBAM的运算过程总体分为两部分,首先对输入按通道进行全局最大池化均值池化,将池化后的两个一维向量送入全连接层运算后相加,生成一维通道注意力,再将通道注意力与输入元素相乘,获得通道注意力调整后的特征图F';其次将F'按空间进行全局最大池化和均值池化,将池化生成的两个二维向量拼接后进行卷积操作,最终生成二维空间注意力,再将空间注意力与F'按元素相乘,具体流程如上图,CBAM生成注意力过程可描述为:

其中 表示对应元素相乘,在相乘操作前,通道注意力与空间注意力分别需要按照空间维度与通道维度进行广播。

  • 20
    点赞
  • 98
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
CBAM(Convolutional Block Attention Module)是一种用于计算机视觉任务的注意力机制,旨在提高模型对重要特征的关注程度。CBAM由两个子模块组成:通道注意力模块(Channel Attention Module)和空间注意力模块(Spatial Attention Module)。 通道注意力模块的目标是对输入特征图的通道维度进行注意力加权。它首先通过全局平均池化操作获取每个通道的全局平均值,然后通过两个全连接层来学习通道的权重。这些权重被应用于原始特征图上的通道维度,以产生加权后的特征图。这个过程使得网络能够自动学习每个通道的重要性,并且可以增强重要通道的特征表示能力。 空间注意力模块旨在对输入特征图的空间维度进行注意力加权。它通过一个3x3的卷积操作来捕捉空间上的特征相互依赖关系。然后,通过两个全连接层来学习空间上每个位置的权重。这些权重被应用于原始特征图上的空间维度,以产生加权后的特征图。这个过程使得网络能够自动学习重要空间位置,并且可以增强重要位置的特征表示能力。 CBAM将通道注意力模块和空间注意力模块串联在一起,通过逐元素相乘的方式将两者的特征图相乘,得到最终的注意力加权特征图。这个注意力加权特征图能够提供更加准确、鲁棒的特征表示,从而提高模型的性能。 总结来说,CBAM通过通道注意力和空间注意力两个模块,分别对特征图的通道和空间维度进行注意力加权,从而提高模型对重要特征的关注程度。这种机制可以有效地提升计算机视觉任务的性能。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值