2018-15Concurrent Spatial and Channel ‘Squeeze &Excitation’ in Fully Convolutional Networks

摘要

FCN在内的架构创新主要集中在改进空间编码或网络连接以帮助梯度流，而在本文中探索了另一种方向，即自适应的重新校准特征图，以增强有意义的特征，同时抑制弱特征。

本文是从SE模块中获得的灵感，为此引入了用于图像分割的SE模块的三种变形。（i）空间压缩和激励信道方向（cSE），（ii）空间压缩并激励信道（sSE）和（iii）并行空间和信道压缩和激励（scSE）。

Introduction

在本文中将之前引入的SE块称为通道注意力（cSE），因为它只在通道方向上有效，这种方法只对分类任务有效。

而对于图像分割任务，本文引入了另一个SE模块，它沿着通道“挤压”，并在空间上“激发”，称为空间SE（sSE）,最后建议使用并行的空间和信道SE块（scSE），分别沿通道和空间重新校准特征图，然后组合输出。鼓励特征图在空间和通道方面都具有更多的信息。

方法

一：cSE-Spatial Squeeze and Channel Excitation Block

 这个方法就是原来的SE模块，在本篇文章中作者将其称为cSE

其具体过程可以概述为：

1.首先将特征图通过全局平均池化方法从[C,H,W]变为[C,1,1]

2.然后依次使用C/2*1*1和C*1*1的卷积进行信息的处理，得到C维的向量。

3.然后使用Sigmod函数进行归一化，得到对应的Mask

4.最后通过通道相乘，得到经过信息校准的特征图

其结构图如下：

二：sSE-Channel Squeeze and Spatial Excitation Block

其原理过程为

1.直接对特征图使用1*1*1卷积，维度由[C,H,W]变为[1,H,W]的特征图

2.然后使用Sigmod进行激活得到空间注意力图

3.然后用得到的结果和原始的特征图相乘

其结构图如下：

三：scSE-Spatial and Channel Squeeze & Excitation Block

 这个模块其实就是将前两个模块相加，其结构示意图如下：

根据示意图可以看出这个模块就是将前两个模块相加