CBAM（Convolutional Block Attention Module）

CBAM（Convolutional Block Attention Module）是轻量级的卷积注意力模块，它结合了通道和空间的注意力机制模块，用于增强卷积神经网络（CNN）的特征表达能力。该模块由通道注意力模块和空间注意力模块两部分组成，能够分别关注输入特征图的通道信息和空间信息，进而提升模型对于重要特征的关注度。

在通道注意力模块中，CBAM通过全局平均池化和最大池化操作捕获通道间的依赖关系，生成两个通道描述子。这两个描述子随后通过共享的全连接层和ReLU激活函数进行变换，再经过Sigmoid函数得到通道注意力权重。这些权重与原始特征图相乘，实现通道维度的特征重标定。

空间注意力模块则关注特征图的空间位置信息。它首先对特征图进行通道维度的平均池化和最大池化操作，生成两个空间描述子。这两个描述子经过一个卷积层进行融合，再通过Sigmoid函数得到空间注意力权重。这些权重与原始特征图相乘，实现对空间位置的特征重标定。

CBAM模块可以轻松地嵌入到现有的卷积神经网络架构中，如ResNet、VGG等，通过增强模型的注意力能力，提升其在图像分类、目标检测等任务上的性能。同时，CBAM还具有良好的可解释性，有助于理解模型在决策过程中的关注点，为深度学习模型的可视化和解释提供了有力的工具

上图可以看到，CBAM包含CAM（Channel Attention Module）和SAM（Spartial Attention Module）两个子模块，分别进行通道和空间上的Attention。这样不只能够节约参数和计算力，并且保证了其能够做为即插即用的模块集成到现有的网络架构中去

一、通道注意力Channel attention module（CAM）

相同视角下，取不同的池化值，然后就是通道的压缩及扩展，最后通过sigmoid得到最终权重。其实这里模式很像SE，但也不能照搬SE，所以用了个多分支。

图解：将输入的feature map经过两个并行的MaxPool层和AvgPool层，将特征图从C*H*W变为C*1*1的大小，然后经过Share MLP模块，在该模块中，它先将通道数压缩为原来的1/r（Reduction，减少率）倍，再扩张到原通道数，经过ReLU激活函数得到两个激活后的结果。将这两个输出结果进行逐元素相加，再通过一个sigmoid激活函数得到Channel Attention的输出结果，再将这个输出结果乘原图，变回C*H*W的大小。

通道注意力公式：

二、空间注意力Spatial attention module（SAM）

 刚才那个是通道上的压缩及放缩，那这里就是空间特征图上，依然采用两种池化方式。

图解：将Channel Attention的输出结果通过最大池化和平均池化得到两个1*H*W的特征图，然后经过Concat操作对两个特征图进行拼接，通过7*7卷积变为1通道的特征图（实验证明7*7效果比3*3好），再经过一个sigmoid得到Spatial Attention的特征图，最后将输出结果乘原图变回C*H*W大小。

空间注意力公式：