Spatial-Channel Sequeeze & Excitation (SCSE)-8-June-2018【论文理解】

最新推荐文章于 2024-02-27 11:28:46 发布

chestnut--

最新推荐文章于 2024-02-27 11:28:46 发布

阅读量8.1k

点赞数 5

分类专栏：深度学习笔记文章标签： seg 图像分割医疗影像

本文链接：https://blog.csdn.net/m0_37477175/article/details/85235802

版权

深度学习笔记专栏收录该内容

51 篇文章 15 订阅

订阅专栏

文章目录

前言

在分割领域，目前的网络改进方式一般是改进encoding层，或者是改进跨层连接的方式；但是此篇论文受到SE(squeeze&excitation)模块的提示，提出了另外三种模式sSE,cSE,scSE，来对网络特征进行调整，重视（加大权重）重要的特征图或者是特征通道，减小不重要特征的影响，从而改善图像分割结果。其实第三种就是第一种和第二种的粗暴结合。实验了在大脑MRI分割中的效果。

SE（cSE）

SE(squeeze&excitation)[1]核心思想在于通过网络根据loss去学习特征权重，使得有效的feature map权重大，无效或效果小的feature map权重小的方式训练模型达到更好的结果。当然，SE block嵌在原有的一些分类网络中不可避免地增加了一些参数和计算量，但是在效果面前还是可以接受的。模块如下图所示：
在这里插入图片描述
具体可以过程可以参考博客[2]，过程其实和[1]是一样的。此处的SE即cSE，Spatial Squeeze and Channel Excitation Block，核心操作是全局池化层以及两层全连接层。本论文中图如下：

输入特征图为 $U= [u_1,u_2,...,u_c]$ ，其中每个通道 $u_i$ , $u_i \in\mathbb{R}^{H*W}$ ，U经过全局池化层（GAP）之后得到向量z， $\in\mathbb{R}^{1*1*C}$
每个位置k的值为：
在这里插入图片描述
得到的向量经过两次全连接层， $W_1$ , $W_2$ 分别为全连接层的权重，过程如下：

此处与[1]略有不同，[1]使用的是16，即 $C*\frac{C}{16}$ ，此处为2。之后经过ReLU,这个过程增强了各个通道之间的独立性。对 $\hat{z}$ 经过sigmod层，归一化到0到1之间得 $\sigma(\hat{z})$ 。整个过程可以用如下公式来代表：
在这里插入图片描述
$\hat{z_i}$ 代表的信息就是第i个通道 $u_i$ 的重要性程度。

sCE

先在通道上进行压缩，再在空间部分上进行Excitation ，如下图所示：
在这里插入图片描述
对于输入层的一个特征图， $U = [u^{1,1},u^{1,2},....,u^{i,j},.....,u^{H,W},]$ ，H,W分别为特征图的尺寸，（i，j）为特征图的空间位置，通过卷积实现空间挤压操作，此处的卷积为1×1的卷积，且输出通道数为1，如下： $W_{sq}\in\mathbb{R}^{1*1*C*1}$ ，操作如下：
在这里插入图片描述
输出为q，q为通道为1的特征图，再经过sigmod对其进行归一化操作到[0-1].操作如下：

其中 $\sigma(q_{i,j})$ 代表特征图中空间位置坐标（i,j）的重要性。