此篇文章内容源自 CBAM: Convolutional Block Attention Module,若侵犯版权,请告知本人删帖。
原论文下载地址:
https://arxiv.org/pdf/1807.06521.pdfarxiv.org摘要
作者提出了卷积块注意力模块(CBAM),一个简单但是有效的前馈卷积神经网络注意力模块。给定一组中间特征图,CBAM 模块依次从通道和空间两个不同的维度推算注意力图,然后将得到的注意力图与输入特征图相乘,以此进行自适应特征细化。因为 CBMA 是一个轻量级的通用模块,它可以无缝地集成到任何 CNN 架构,无需额外开销并且可以同基础 CNNs 一起进行端到端训练。作者在 ImageNet-1K, MS COCO detection, VOC 2007 检测数据集上进行了大量实验来验证 CBAM。实验表明,不同模型在分类和检测性能上都有了一致的改进,证明了CBAM的广泛适用性。
卷积块注意力模块
给定一个中间特征图
作为输入,CBAM 顺序地推算一个 1D 通道注意力图
和一个 2D 空间注意力图
,如图 1 所示。完整的注意力过程可以归纳如公式(1)所示。其中
表示按位相乘。按位相乘时,注意力值被相应地广播:通道注意力值沿着空间维度广