论文阅读：FCB-SwinV2 Transformer for Polyp Segmentation

蓝海渔夫

已于 2024-03-12 16:00:59 修改

阅读量910

点赞数 8

分类专栏：深度学习文章标签：论文阅读深度学习人工智能

于 2024-03-12 16:00:28 首次发布

本文链接：https://blog.csdn.net/wwimhere/article/details/136653662

版权

26 篇文章 1 订阅

订阅专栏

本文介绍了对FCBFormer进行的改进，包括增加FCB分支的通道维度，调整组归一化顺序，以及受SwinV2Transformer启发的残差块设计。TB分支采用SwinV2Transformer核心并整合了CSE和SSE模块。作者详细描述了这些改动并展示了实验结果。

摘要由CSDN通过智能技术生成

依然是一个双分支结构，总体结构如下：

其中一个是全卷积分支，一个是Transformer分支。

和FCBFormer不同的是，对两个分支都做了一些修改。

本文没有画FCB分支的整体结构，我们借用一下FCBFormer的结构图看一下：

相比FCBFormer，FCB-SwinV2 Transformer模型中的FCB分支进行了以下主要改进：

1）通道维度增加：FCB分支的通道维度被增加，以匹配从SwinV2 Transformer-UNET分支输出的通道维度数量。这样做是为了确保两个分支的输出可以在合并之前具有相同的维度，从而更有效地结合两种架构的优势。

2）组归一化顺序调整：在FCB分支的残差块（RB）中，组归一化（GN）的顺序被调整，以适应SwinV2 Transformer中的残差后归一化（residual post normalization）方法。RB模块的调整如下：

左边为原来的RB模块，右边是本文用的RB模块。主要是把先归一化再卷积，调整为先卷积再做归一化。

3）残差块改进：残差块的设计受到了SwinV2 Transformer中残差后归一化方法的启发。在FCB-SwinV2 Transformer中，残差块的归一化步骤被放置在卷积层之后，这与原始FCBFormer中的顺序不同。

TB模块采用了SwinV2 Transformer作为其核心，SwinV2 Transformer通过引入“残差后归一化”（residual post normalization）和修改注意力机制来优化原始的Swin Transformer。

解码器模块（scse）如下：

scse模块由cse和sse两个子模块构成。

1）CSE（Channel Squeeze and Excitation）模块是一种注意力机制，它通过显式地建模通道间的依赖关系来增强网络的特征表示能力。

CSE整体结构：

输入特征图: F
1. 通道全局平均池化: G = Global_Average_Pooling(F)
2. 卷积和激活: H = Activation(Conv(G))
3. 逐元素乘法: Output = H * F

2）SSE（Spatial Squeeze and Excitation）模块是一种用于增强特征图中空间特征的注意力机制。

SSE整体结构：

输入特征图: F
1. 通道压缩: G = Conv(F)  # 使用1x1卷积核
2. 空间激励: H = Activation(G)
3. 逐元素乘法: Output = H * F

把编码器和解码器按照UNET的结构组合起来就是TB分支。

4，实验结果：

关注