CBAM论文记录

简介

CBAM是ECCV2018年的文章，提出一个新的结构。SENet在特征图的通道上进行attention生成，然后与原来的特征图相乘，这种attention方法只关注了通道层面上哪些层会具有更强的反馈能力，但是在空间维度上并不能体现出attention思想。由于卷积运算通过混合跨信道和空间信息来提取信息特征，我们采用模块来强调这两个维度上有意义的特征：通道和空间。为了实现这一点，我们依次应用通道和空间注意模块，这样每个分支就可以分别在通道和空间上学习‘’what‘’和‘’where‘’需要注意。因此，我们的模块通过学习哪些信息需要强调和抑制，有效地帮助网络中的信息流。CBAM将attention同时运用在channel和spatial两个维度上。性能的提高来自于准确的注意和无关杂波的降噪。
CBAM可以嵌入目前大部分的主流网络中，在不显著增加计算量和参数量的前提下能提升网络模型的特征提取能力。
本文的贡献主要有以下三点：
（1）提出了高效的attention模块-CBAM，该模块能够嵌入到目前的主流CNN网络结构中。
（2）通过额外的消融实验证明CBAM中attention的有效性。
（3）在ImageNet-1K等数据集上证明了CBAM的性能提升。

网络结构

基于传统VGG结构的CBAM模块，需要在每个卷积层后面加该模块。