CBAM:Convolutional Block Attention Module

目录

1、注意力机制

2、论文解读

2.1 Channel Attention Module（通道注意力机制） 

2.2 Spatial attention channel

 2.3 CBAM integrated with a ResBlock in ResNet

2.4 实验结果

---

1、注意力机制

通俗的讲，注意力机制就是希望网络自动学出图片或文字序列中需要注意的地方。比如，人眼在观察一幅画时，不会将注意力平均分配到画中的每个像素，而是更多的将注意力放到人们关注的地方。

从实现的角度讲：注意力机制通过神经网络的操作生成一个掩膜mask，mask上的值打一个分，评价当前需要关注点的评分。

注意力机制可以分为：

• 通道注意力机制：对通道生成掩膜mask，进行打分，代表是senet，Channel Attention Map
• 空间注意力机制：对空间进行掩膜的生成，进行打分，代表是Spatial Attention Map
• 混合域注意力机制：同时对通道注意力和空间注意力进行打分，代表有BAM,CBAM

2、论文解读

论文提出Convolutional Block Attention Module（CBAM），这是一种为卷积神经网络设计的，简单有效的注意力模块（Attention Module），对于卷积神经网络生成的feature map，CBAM从通道和空间两个维度来计算feature map的attention map，然后将feature map 和attention map相乘，进行自适应特征学习。CBAM是一个轻量的通用模块，适用于各种卷积神经网络中。  

实现过程如下：

对于一个中间层的feature map：对于一个中间层的feature map：,CBAM将会顺序推理出1维的channel attention map ,以及2维的spatial attention map ,整个过程如下图所示：

2.1 Channel Attention Module（通道注意力机制）