即插即用篇 | 超越自注意力：面向医学图像分割的可变形大卷积核注意力

医学图像分割在转换器模型的应用下取得了显著的进展，这些模型擅长捕捉广泛的上下文和全局背景信息。然而，这些模型随着标记数量的平方成比例增长的计算需求限制了它们的深度和分辨率能力。大多数当前的方法通过逐层处理D体积图像数据（称为伪3D），在处理过程中错过了关键的跨层信息，从而降低了模型的整体性能。为了解决这些挑战，我们引入了可变形大卷积核注意力（D-LKA Attention）的概念，这是一种使用大型卷积核的简化注意机制，以充分理解体积上下文。该机制在类似于自注意的感受域内操作，同时规避了计算开销。此外，我们提出的注意机制还受益于可变形卷积，能够灵活地调整采样网格，使模型能够适应各种数据模式。我们设计了D-LKA Attention的2D和3D版本，其中后者在跨深度数据理解方面表现出色。总体而言，这些组件塑造了我们的新型分层Vision Transformer架构，即D-LKA Net。在流行的医学分割数据集（Synapse、NIH胰腺和皮肤病变）上，我们的模型相对于主流方法展现出了卓越的性能。我们的代码实现公开在GitHub上提供。

论文地址：https://arxiv.org/pdf/2309.00121.pdf
代码地址：https://github.com/xmindflow/deformableLKA/blob/main/2D/deformable_LKA

---