CBAM: Convolutional Block Attention Module

论文下载地址：https://arxiv.org/pdf/1807.06521.pdf

论文代码：https://github.com/ziweizhan/CBAM

论文创新：论文核心是提出了新的通道注意力网络结构和空间注意力网络结构。这两个网络结构简单不会影响网络检测速度，还可以将注意力网络结构嵌入到任何CNN网络里面，适应性强。

网络结构：

整体网络结构：

        如下图所示是网络的整体网络结构，提取到的 Input Feature 特征图先经过通道注意力结构得到通道注意力特征图F1，然后F1再和 Input Feature 进行元素相乘操作得到 F2， F2再传入空间注意力模型得到 F3，然后F3再和F2进行一次元素相乘操作得到最后的注意力特征图。

                                                      图1 . CBAM整体网络结构

通道注意力模块：

       如下图所示通道注意力网络结构。作者通过大量的实验证实在提取通道特征的时候同时使用最大池化加平均池化操作可以取得最好的效果。结构的整体流程是，首先将F特征图分别传到最大池化和均值池化分别得到两类特征图，然后再将特征图分别传送到MLP（只包含一层隐藏层的简单多层感知机里面），得到两类特征图F1和F2。最后再将这两类特征图进行相加操作得到最后的通道注意力特征图。

                                                 图2 . 通道注意力网络结构

    公式如下图所示，σ表示的是Sigmod激活函数。

                                               公式1 . 通道注意力公式

空间注意力模块：

        如图3所示，空间注意力网络结构主要有池化层和卷积层做成。网络整体流程是，首先将通道注意力网络处理之后的特征图传到最大池化和均支持华里面得到两类特征图F1和F2，然后再将F1和F2，通过通道维度Concate在一起。最后再经过一个7*7的卷积层处理得到最后的空间注意力特征图。

                                                   图3 . 空间注意力网络结构

                                                     公式2 . 空间注意力公式

 

实验结果：

作者还做了大量的实验来证明提出的网络结构最优。

作者通过实验发现同时使用最大池化和均值池化可以提升结果。

作者通过使用不同注意力模块、不同卷积核的卷积、不同的最大和均值池化来证明当前网络结构是最优。

作者通过对比通道注意力和空间注意力模块的顺序得到通道注意力后面接一个空间注意力是最好的结果。