【论文解读】用于卷积神经网络的注意力机制(Attention)----CBAM: Convolutional Block Attention Module

论文：CBAM: Convolutional Block Attention Module
收录于：ECCV 2018

摘要

论文提出了Convolutional Block Attention Module(CBAM)，这是一种为卷积神将网络设计的，简单有效的注意力模块(Attention Module)。对于卷积神经网络生成的feature map，CBAM从通道和空间两个维度计算feature map的attention map，然后将attention map与输入的feature map相乘来进行特征的自适应学习。CBAM是一个轻量的通用模块，可以将其融入到各种卷积神经网络中进行端到端的训练。

主要思想

对于一个中间层的feature map：$F\in {\mathbb{R}}^{C\ast H\ast W}$，CBAM将会顺序推理出1维的channel attention map $M_c\in {\mathbb{R}}^{C\ast 1\ast 1}$以及2维的spatial attention map $M_s\in {\mathbb{R}}^{1\ast H\ast W}$，整个过程如下所示：
$$F^{{}^{\prime }}=M_c(F)\otimes F$$
$$F^{{}^{\prime \prime }}=M_s(F^{{}^{\prime }})\otimes F^{{}^{\prime }}$$
其中$\otimes$为element-wise multiplication，首先将channel attention map与输入的feature map相乘得到$F^{{}^{\prime }}$，之后计算 F ′ F^{'}