CBAM: Convolutional Block Attention Module 论文笔记

最新推荐文章于 2024-05-10 08:30:00 发布

Matthew Lou

最新推荐文章于 2024-05-10 08:30:00 发布

阅读量506

点赞数

分类专栏：论文笔记文章标签：人工智能机器学习深度学习计算机视觉

本文链接：https://blog.csdn.net/sydukee/article/details/111238964

版权

论文笔记专栏收录该内容

7 篇文章 0 订阅

订阅专栏

本文介绍了卷积块注意力模块（CBAM），这是一个轻量级但有效的注意力模型，能够提升CNN的表示能力。CBAM通过通道和空间注意力两个维度自适应地细化特征，可以无缝集成到任何CNN架构中。实验表明，在ImageNet-1K、MSCOCO和VOC2007等多个基准上，CBAM显著提高了网络性能。CBAM使用平均池化和最大池化来获取通道和空间注意力，其顺序排列优于并行排列。

摘要由CSDN通过智能技术生成

Abstract

该论文提出 Convolutional Block Attention Module （CBAM），一个简单但是有效的用于前馈卷积注意力模块。给出中间特征图，模块可以顺序的从两个维度——通道和空间来推断 attention map，然后将 attention map 和 input feature map 相乘得到自适应的特征细化。并且CBAM是轻量级的，可以无缝整合到任何CNN结构中，并且开销可忽略不计，还可以和CNN一起端到端的进行训练。

Introduction

为提高 CNN 的性能，现有的研究主要关注三个重要的方面：深度、宽度和基数（cardinality）。
与这些方面不同，论文的研究聚焦于另一个架构设计的方面：attention。Attention 不仅仅告诉模型该关注哪里，还提升了兴趣点的表示。论文的目标就是通过使用注意力机制来提升表达能力：关注重要特征、抑制不重要的。我们的模型强调空间和通道这两个主要维度的有意义的特征。为达成这个目标，论文顺序采用通道和空间注意力模型。这样不同的分支可以分别学习去 attend ‘what’ and ‘where’。

主要贡献：

提出CBAM，一个简单有效的注意力模型，可以广泛应用来增强CNN的表示能力。
通过大量的 ablation studies 验证该注意力模型的有效性。
通过插入我们的轻型模块，我们验证了各种网络的性能在多个 benchmarks (ImageNet-1K、MS COCO和VOC 2007)上有很大提高。

Related Work

为了更好地捕捉视觉结构，人类利用一系列 partial glimpses，有选择地聚焦于显著部分。
我们不是直接计算3d注意力图，而是将学习通道注意力和空间注意力的过程分解。这样获得了更少的计算和参数开销。
和之前只使用 average pool 不同，CBAM同时使用了 max pool 和 average pool。这样可以更好的计算 channel 和 spatial attention。

Convolutional Block Attention Module

整体公式概括如下：
在这里插入图片描述
F为中间特征图，M_c是通道注意图，M_s是空间注意图。F’’ 是最后的细化输出。

总体图示如下：
在这里插入图片描述

Channel Attention Module

我们使用通道注意图来利用通道间特征的关系。为了高效计算 channel attention，论文缩小了输入特征图的空间维度。至今为止，平均池化通常被用来聚合空间信息。论文认为最大池化收集了另一个重要的信息来推断更精细的通道方向的注意力。因此论文同时使用平均池化和最大池化特征，并认为这样可以大幅提升网络的表达能力。
进行两种池化后得到的平均池化特征和最大池化特征被送入到一个共享的MLP网络，其中含有一个隐藏层。为减少参数开销，隐藏激活层被设置为 C/r * 1 * 1。其中 r 为减小倍率。
总体 channel attention 可描述如下：
在这里插入图片描述

Spatial Attention Module

我们生成一个空间注意图通过利用特征的空间关系。空间注意关注于有信息的部分在哪，是对通道注意的一个补充。为计算空间关注，首先在通道维度使用平均池化和最大池化，然后合并他们来生成一个特征描述。使用通道维度上的池化操作，可以 highlight informative regions。对于生成的特征描述，使用一个卷积层来生成空间特征图，该图编码了哪里应该强调或抑制。
总体可描述为：
在这里插入图片描述
最后，论文发现，sequential arrangement 是比 parallel arrangement 效果要好的。