68——CaraNet: Context Axial Reverse Attention Network for Segmentation of Small Medical Objects

Lou, Ange, et al. "CaraNet: context axial reverse attention network for segmentation of small medical objects." Medical Imaging 2022: Image Processing. Vol. 12032. SPIE, 2022.

以提高对小目标的分割性能，并与目前几种最新的模型相比较。我们在脑肿瘤(BraTS 2018)和息肉(Kvasir-SEG、CVC-ColonDB、CVC-ClinicDB、CVC-300和etis - laribpolydb)分割数据集上测试我们的CaraNet。

本文提出了一种新的基于注意的深度神经网络，称为上下文轴向反向注意网络(CaraNet)。本文的贡献可归纳如下1)我们提出了一种新的神经网络- CaraNet -来解决小医疗对象的分割问题。2)我们引入了一种评估网络在小型医疗对象上性能的方法。3)我们的实验表明，CaraNet优于大多数当前的模型(例如MICCAI’20的PraNet)，并在息肉的分割性能上，在整体和小对象上都有很大的进步。

图1展示了我们CaraNet的架构，它使用一个并行部分解码器[26]来生成高级语义全局图，以及一组上下文和轴向反向注意操作来检测全局和局部特征信息。

CaraNet概述，包括预训练骨干、部分解码器、按通道特征金字塔(CFP)模块和轴向反向注意(A-RA)模块。

与高级特性相比，低级特性对性能的贡献较小，但由于其更大的空间分辨率[30]，具有更高的计算成本。因此，我们应用并行部分解码器[26](如图2所示)来聚合高级特性。 

 Channel-wise feature pyramid module (CFP)通道级特征金字塔模块

特征金字塔网络(Feature pyramid Network, FPN)[32]与卷积核采取不同的步长来获得FP。虽然这些以此为基础的方法在计算机视觉领域表现良好，但它们无法避免使用大量的参数，从而消耗大量的计算资源。另外，我们之前的研究[33,34]提出了一种轻量级的Channel-wise Feature Pyramid (CFP)模块，并成功地将其应用于自然图像和医学图像分割。这个CFP模块的架构如图3所示。

 (a) CFP模块，(b)正则卷积的FP信道，(c)非对称卷积的FP信道

 CFP模块最终得到的特征金字塔。

轴向反向注意模块Axial reverse attention module 

CFP模块仅从预训练的模型中提取多尺度特征。为了获得更准确的特征信息，我们设计了轴向反向注意(A-RA)模块来分析定位信息和多尺度特征。A-RA模块的概述和详细信息分别如图1和图5所示。上面一行的输入是多尺度特征图

 

我们应用了轴向注意，它将二维注意分解成沿高度和宽度轴的两个一维注意。在此，我们根据实验将softmax激活函数替换为sigmoid函数。