注意力机制又火了！Attention+UNet 融合创新方案整理

最新推荐文章于 2025-03-14 11:44:02 发布
最新推荐文章于 2025-03-14 11:44:02 发布
阅读量1k 收藏 8
点赞数 11
文章标签： attention unet 注意力机制
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_88556812/article/details/145591502
版权

2025深度学习发论文&模型涨点之—— Attention+UNet 

通过将注意力模块集成到UNet的架构中，可以动态地重新分配网络的焦点，使其更集中在图像中对于分割任务关键的部分。这样UNet可以更有效地利用其跳跃连接特性，以精细的局部化信息来提升分割精度。

以CAS-UNet算法为例，它通过引入跨融合通道注意机制、加性注意门模块和SoftPool池化模块，改进了传统的U-Net算法，提高了模型的分割能力和对细节图像区域的分割效果。在CHASEDB1和DRIVE数据集上的实验结果表明，CAS-UNet分别达到了96.68%和95.86%的准确率，以及83.21%和83.75%的灵敏度，优于现有的基于U-Net的经典算法。

我整理了一些 Attention+UNet【论文+代码】合集，需要的同学公人人人号【AI创新工场】自取。

论文精选

论文1：

NFMPAtt-Unet: Neighborhood Fuzzy C-means Multi-scale Pyramid Hybrid Attention Unet for medical image segmentation

基于邻域模糊C均值多尺度金字塔混合注意力Unet的医学图像分割

方法

多尺度动态权重特征金字塔模块（MDWFP）：通过动态调整不同尺度的权重，增强网络对多尺度特征信息的捕获能力。

混合加权注意力机制（HWA）：结合空间注意力和通道注意力，动态调整权重，

最低0.47元/天 解锁文章
Ai多利
关注
UNet 改进：添加Transformer注意力机制增强捕捉长距离依赖关系的能力
Henry的博客
03-12 1033
每个注意力头计算每个输入元素相对于其他元素的重要性，使模型能够专注于输入序列的不同方面。总体而言，TransformerBlock在Transformer模型架构的成功中起着至关重要的作用，并为自然语言处理任务的进步做出了重大贡献。TransformerBlock因其能够捕获序列中的长程依赖关系、并行性以及在处理不同语言对和自然语言处理任务方面的有效性而广受欢迎。这有助于捕捉序列中的复杂模式和关系。然后，前馈神经网络的输出通过残差连接和层归一化，这有助于稳定训练过程并改善训练过程中的梯度流。
Unet++改进2：添加CBAM注意力机制
AIcurator的博客
11-07 545
摘要。我们提出了卷积块注意模块(CBAM)，这是一种简单而有效的前馈卷积神经网络注意模块。给定一个中间特征映射，我们的模块沿着两个独立的维度依次推断注意力映射，通道和空间，然后将注意力映射乘以输入特征映射以进行自适应特征细化。因为CBAM是一个轻量级的通用模块，它可以无缝地集成到任何CNN架构中，开销可以忽略不计，并且可以与基础CNN一起进行端到端训练。我们通过在ImageNet-1K、MS COCO检测和VOC 2007检测数据集上进行大量实验来验证我们的CBAM。
性能再升级！UNet+注意力机制，新SOTA分割准确率高达99%
学姐带你玩AI的博客
04-15 6770
具体来说，通过将注意力模块集成到UNet的架构中，动态地重新分配网络的焦点，让其更集中在图像中对于分割任务关键的部分。这样UNet可以更有效地利用其跳跃连接特性，以精细的局部化信息来提升分割精度。这种策略可以帮助UNet更精确地界定目标边界，。同时引导网络关注更有信息量的局部区域，。
U-Net网络模型改进（添加通道与空间注意力机制）---亲测有效，指标提升
weixin_42367888的博客
12-05 1万+
U-Net网络模型改进（添加通道与空间注意力机制）---亲测有效，指标提升
注意力机制结合UNet，速度飙升98.82%！
最新发布
2401_88556812的博客
03-14 672
Transformer 与 U-Net 结合：将 Transformer 的全局自注意力机制与 U-Net 的局部细节提取能力相结合，显著提升了分割性能（例如在 Synapse 数据集上，平均 DSC 提升至 77.48%，比传统 U-Net 提升了约 3.8%）。或在解码器阶段使用自注意力机制以建模像素间的全局关系。多尺度特征利用：通过多尺度特征图的门控操作，模型在不同数据集上均表现出良好的泛化能力，Dice 分数在 CT-82 数据集上达到了 83.1%，相比传统 U-Net 提升了约 1.1%。
Attention UNet
weixin_46720482的博客
10-25 1万+
Attention UNet论文解析 - 知乎Attention UNet论文地址： https://arxiv.org/pdf/1804.03999.pdf 代码地址： https://github.com/ozan-oktay/Attention-Gated-NetworksAttention UNet在UNet中引入注意力机制，在对编码器每个分辨率上的特征与解…图像分割UNet系列------Attention Unet详解_gz7seven的博客-CSDN博客_attention unet。
各种用于图像分割的Unet模型的实现-Unet，RCNN-Unet，Attention Unet，RCNN-Attention Unet，嵌套Unet-Python开发
05-25
各种Unet模型用于图像分割的实现-Unet，RCNN-Unet，注意力Unet，RCNN-Attention Unet，嵌套式Unet细分Unet细分-Pytorch-Nest-of-Unets各种Unet模型用于图像分割的实现UNet- U-Net：用于生物医学图像分割的卷积网络https://arxiv.org/abs/1505.04597 RCNN-UNet-基于U-Net的递归残差卷积神经网络（R2U-Net）用于医学图像分割https：// arxiv。 org / abs / 1802.06955 Attention Unet-Attention U-Net：学习在哪里寻找胰腺https://arxiv.org/abs/1804.03999 RCNN-Attentio
unet各模块内容的理解（包含注意力机制、残差、以及数据维度的变化）
m0_52985451的博客
03-17 4969
对unet的各模块内容进行梳理，包括各模块的设计，以及数据流的整个处理流程，以及其维度的变化
SA-UNet：用于视网膜血管分割的空间注意力UNet
weixin_43921949的博客
12-18 4611
SAUNet
注意力机制的原理及实现（pytorch）
qq_44091004的博客
03-14 8099
注意力机制大礼包
基于Unet模型和并联注意力机制实现猫和老鼠动画片的语义分割.zip
02-06
综上所述，这个项目通过融合Unet模型的高效特征提取能力和自注意力机制的全局信息捕捉能力，实现了对猫和老鼠动画片的精细语义分割。这不仅展示了深度学习在计算机视觉中的强大应用，也为动画制作、游戏开发等领域...
基于注意力机制的遥感图像分割模型
01-25
该模型建立在深度图像分割模型的基础上,提出在高低层特征融合之前采用通道注意力机制对低层特征进行加权处理,增强目标特征并抑制背景特征,提高信息的融合效率。为进一步增强模型对目标特征的响应能力,提出位置注意力...
图像分割UNet系列------Attention Unet详解
热门推荐
gz7seven
08-12 5万+
图像分割unet系列------Attention Unet详解1、Attention Unet主要目标2、Attention Unet网络结构     Attention Unet发表于2018年中期（比Res-UNet要早一些），它也是UNet非常重要的改进版本之一。当然，Attention Unet同样也是应用在医学图像分割领域，不过文章主要是以胰脏图像分割进行实验与论证的。 1、Attention Unet主要目标     作者在摘要与简介中很清楚的表明了要解决的问题以及要达到的目标。具体如下所示：
基于加权的Res-UNet注意力机制分割视网膜血管分割挑战
爱CV
01-27 8114
•小血管缺失:位于树枝末端的小血管有时甚至人眼也难以分辨。 •视盘区分割差:视盘区往往较亮，对比度较低，使得视网膜血管难以分割。 •无法维持结构关系:视网膜血管有类似于树木的分叉结构。但当血管太薄而无法探测时，这种结构很难维持。 •照明:光照不足或过度暴露，包括相机光源引起的光反射，会降低图像对比度，导致视网膜血管边界不清晰。 为了解决这些挑战，本文提出：加权的Res-UNet。模型建立在原始的UNet模型基础上，并增加了一个加权注意机制。使得模型学习更多的鉴别血管和非血管像素的特征，更好的维护视网膜血管
基于强化空间注意力的视网膜网络（ESA-Unet)
m0_61356812的博客
07-19 4035
ESA-Unet
【计算机视觉 | 注意力机制】13种即插即用涨点模块分享！含注意力机制、卷积变体、Transformer变体等
wzk4869的博客
11-29 1万+
【计算机视觉 | 注意力机制】13种即插即用涨点模块分享！含注意力机制、卷积变体、Transformer变体等
U-Net结构改进：双交叉注意力模块（DCA）
记录
05-07 2万+
本文由迈阿密大学的研究团队于2023年3月30日发表，提出了双交叉注意力模块（Dual Cross-Attention , DCA），其目标是在轻微的参数和复杂性增加的情况下改进U-Net及其变体，能够简单而有效地增强u-net结构中的跳跃连接（skip-connection）。
论文中常用的注意力模块合集(上)
soaring_casia的专栏
02-10 6080
在深度卷积神经网络中，通过构建一系列的卷积层、非线性层和下采样层使得网络能够从全局感受野上提取图像特征来描述图像，但归根结底只是建模了图像的空间特征信息而没有建模通道之间的特征信息，整个特征图的各区域均被平等对待。在一些复杂度较高的背景中，容易造成模型的性能不佳，因此可以引入注意力机制，而注意力机制的原理是通过参考人的视觉感知能力，即人在处理视觉信息初期会集中专注于当前情景下重点区域，而其他区域将相应降低，这为更高层级的视觉感知和逻辑推理以及更加复杂的计算机视觉处理任务提供更易于处理且更相关的信息。
空间通道注意力+unet代码
12-27
### 实现带有空间通道注意力机制的UNet 为了实现具有空间通道注意力机制的空间注意U-Net，可以在原有的UNet架构基础上引入空间和通道维度上的自适应特征重加权模块。这种设计能够增强模型对于不同位置以及各个通道重要性的感知能力。 #### 空间通道注意力层定义 ```python import torch import torch.nn as nn class SpatialChannelAttention(nn.Module): def __init__(self, in_channels, reduction_ratio=16): super(SpatialChannelAttention, self).__init__() # Channel Attention Module self.channel_attention = nn.Sequential( nn.AdaptiveAvgPool2d(1), nn.Conv2d(in_channels, in_channels // reduction_ratio, kernel_size=1), nn.ReLU(inplace=True), nn.Conv2d(in_channels // reduction_ratio, in_channels, kernel_size=1), nn.Sigmoid() ) # Spatial Attention Module self.spatial_attention = nn.Sequential( nn.Conv2d(2, 1, kernel_size=7, padding=3), nn.Sigmoid() ) def forward(self, x): b, c, _, _ = x.size() # Channel attention branch channel_att = self.channel_attention(x).expand_as(x) # Spatial attention branch max_pool = torch.max(x, dim=1)[0].unsqueeze(1) avg_pool = torch.mean(x, dim=1).unsqueeze(1) concat = torch.cat([max_pool, avg_pool], dim=1) spatial_att = self.spatial_attention(concat).expand_as(x) return x * channel_att * spatial_att ``` 此代码片段展示了如何构建一个融合了空间与通道注意力机制的新组件`SpatialChannelAttention`[^1]。该类继承自PyTorch中的`nn.Module`基类，并实现了两个主要部分：一个是用于捕捉全局上下文依赖关系的通道注意力模块；另一个则是专注于局部区域显著性度量的空间注意力模块。 #### 整合到UNet结构中 接下来，在标准UNet的基础上加入上述创建好的空间通道注意力层： ```python class SC_UNet(nn.Module): def __init__(self, num_classes=1, input_channels=3, depth=5, start_filts=64): super(SC_UNet, self).__init__() down_convs = [] up_convs = [] for i in range(depth): ins = input_channels if i == 0 else outs outs = start_filts*(2**i) pooling = True if i < depth-1 else False down_conv = DownConv(ins, outs, pooling=pooling) down_convs.append(down_conv) for i in reversed(range(depth - 1)): ins = outs outs = ins // 2 up_conv = UpConv(ins, outs) up_convs.append(up_conv) self.down_convs = nn.ModuleList(down_convs) self.up_convs = nn.ModuleList(up_convs) self.conv_final = conv1x1(start_filts, num_classes) self.sc_attns = nn.ModuleList([ SpatialChannelAttention(outs) for _ in range(depth)]) def forward(self, x): encoder_outs = [] for idx, module in enumerate(self.down_convs[:-1]): before_pool = module(x) encoder_outs.append(before_pool) sc_attn_output = self.sc_attns[idx](before_pool) x = F.relu(sc_attn_output) x = self.down_convs[-1](x) for idx, module in enumerate(self.up_convs): before_pool = encoder_outs[-(idx+1)] x = module(before_pool, x) sc_attn_output = self.sc_attns[len(encoder_outs)-idx-1](x) x = F.relu(sc_attn_output) x = self.conv_final(x) return x ``` 这段代码扩展了传统的UNet框架，通过在每一级编码器和解码器之间插入空间通道注意力层来提升性能表现。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值