UNet 改进(3)：CBAM模块的融合创新

最新推荐文章于 2025-04-16 07:30:00 发布
最新推荐文章于 2025-04-16 07:30:00 发布
阅读量597 收藏
点赞数 10
分类专栏： Unet 模型改进 文章标签： 深度学习 人工智能 计算机视觉 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_82355416/article/details/147034060
版权

引言

在计算机视觉领域，特别是图像分割任务中，UNet架构因其优异的性能而广受欢迎。

然而，传统的UNet在处理复杂场景时，对所有空间位置和通道特征一视同仁，这可能导致对重要特征的关注不足。

本文将详细介绍一种改进的UNet架构——UNet_CBAM。

它通过集成卷积块注意力模块(Convolutional Block Attention Module, CBAM)来增强模型对关键特征的关注能力。

1. CBAM注意力机制

CBAM是一种轻量级的注意力模块，可无缝集成到CNN架构中。

它由两个子模块组成：通道注意力模块和空间注意力模块。

了解本专栏 订阅专栏 解锁全文
Unet 改进：融合CBAM模块代替特征提取
Henry的博客
02-04 1827
CBAM模块主要由两个子模块组成：通道注意力模块（Channel Attention Module）和空间注意力模块（Spatial Attention Module）。这两个子模块以串行的方式连接，即先通过通道注意力模块对输入特征图的通道进行加权，然后再通过空间注意力模块对加权后的特征图的空间位置进行加权。在语义分割任务中，CBAM模块可以嵌入到分割网络的解码器中，以提高分割精度。综上所述，CBAM模块是一种有效的注意力机制模块，它通过结合通道注意力和空间注意力两个维度来增强模型对重要特征的关注度。
Unet改进2：在不同位置添加CBAM注意力机制
AIcurator的博客
08-24 2596
摘要。我们提出了卷积块注意模块(CBAM)，这是一种简单而有效的前馈卷积神经网络注意模块。给定一个中间特征映射，我们的模块沿着两个独立的维度依次推断注意力映射，通道和空间，然后将注意力映射乘以输入特征映射以进行自适应特征细化。因为CBAM是一个轻量级的通用模块，它可以无缝地集成到任何CNN架构中，开销可以忽略不计，并且可以与基础CNN一起进行端到端训练。我们通过在ImageNet-1K、MS COCO检测和VOC 2007检测数据集上进行大量实验来验证我们的CBAM。
U-Net网络模型改进（添加通道与空间注意力机制）---亲测有效，指标提升
weixin_42367888的博客
12-05 1万+
U-Net网络模型改进（添加通道与空间注意力机制）---亲测有效，指标提升
尝试在UNet添加SK模块和CBAM模块
qq_45981086的博客
05-28 6788
尝试在UNet添加SK模块和CBAM模块
UNet 改进(11)：结合Inception模块和CBAM注意力机制
2401_82355416的博客
04-16 481
这个改进的UNet架构名为基础双卷积模块：标准的UNet卷积块Inception模块：多尺度特征提取CBAM注意力机制：通道和空间注意力下采样和上采样路径：标准的UNet结构本文介绍的UNetWithInceptionCBAM通过结合Inception模块的多尺度特征提取能力和CBAM注意力机制的特征优化能力，在保持UNet基本结构优势的同时，显著提升了模型的特征表示能力。这种架构设计思路也可以应用于其他编码器-解码器结构的网络中，为图像分割任务提供了一个强有力的基线模型。
【卷积神经网络系列】十八、CBAM
traveller的博客
09-28 1795
CBAM
【论文】CBAM: Convolutional Block Attention Module
梦想是要有的，万一实现了呢！
05-31 7589
摘要：我们提出了卷积块注意模块 (CBAM)，这是一个用于前馈卷积神经网络的简单而有效的注意模块。给定一个中间特征图，我们的模块沿两个单独的维度（通道和空间）顺序推断注意力图，然后将注意力图乘以输入特征图以进行自适应特征细化。因为 CBAM 是一个轻量级的通用模块，它可以无缝集成到任何 CNN 架构中，开销可以忽略不计，并且可以与基础 CNN 一起进行端到端训练。我们通过对 Image Net - 1 K、MS COCO 检测和 VOC 2007 检测数据集的广泛实验来验证我们的 CBAM。我们的实验表..
【项目实战】ISIC 数据集上的实验揭秘：UNet + SENet、Spatial Attention 和 CBAM 的最终表现
一位人工智能领域的小新，想要努力发光发热
12-20 2308
本文以经典UNet模型为基础，结合SENet、Spatial Attention和CBAM三种注意力机制，优化医学图像分割性能。通过在ISIC皮肤病灶数据集上的实验，结果表明：SENet增强通道特征效果显著，CBAM通过通道与空间特征结合实现全面性能提升，Spatial Attention在局部空间特征提取上具备一定优势。改进模型在Dice系数、IoU等关键指标上优于基准UNet，为医学图像分割和智能医疗应用提供了新的研究方向。
[ 注意力机制 ] 经典网络模型2——CBAM 详解与复现
热门推荐
A_John 的博客
04-19 4万+
[ 注意力机制 ] 经典网络模型2——CBAM 详解与复现 1、Convolutional Block Attention Module 2、CBAM 详解 Channel Attention Module Spatial Attention Module 3、CBAM 复现 简称 ``CBAM``，2018年 提出的一种新的 *卷积注意力模块* ； 对前馈卷积神经网络 是一个 简单而有效的 注意力模块 ； 因为它的轻量级和通用性，可以无缝集成到任何CNN网络当中 ；...
Unet++改进2：添加CBAM注意力机制
AIcurator的博客
11-07 645
摘要。我们提出了卷积块注意模块(CBAM)，这是一种简单而有效的前馈卷积神经网络注意模块。给定一个中间特征映射，我们的模块沿着两个独立的维度依次推断注意力映射，通道和空间，然后将注意力映射乘以输入特征映射以进行自适应特征细化。因为CBAM是一个轻量级的通用模块，它可以无缝地集成到任何CNN架构中，开销可以忽略不计，并且可以与基础CNN一起进行端到端训练。我们通过在ImageNet-1K、MS COCO检测和VOC 2007检测数据集上进行大量实验来验证我们的CBAM。
基于CBAM改进的UNet模型的PyTorch实现及其在图像分割领域的应用
02-03
内容概要：本文展示了带有CBAM注意力机制改进的U-Net架构模型的具体实现，使用PyTorch作为深度学习库。文中定义了ChannelAttention（信道注意力）和SpatialAttention（空间注意力）这两个重要子模块来提高模型对特征的理解力。接下来，还描述了网络不同层次之间的下采样、跳跃连接以及最后输出部分所使用的特定操作细节。最后，给出了模型实例化及简单调用的方法，并测试了随机生成的数据样本输出维度验证模型搭建正确无误。 适合人群：本教程主要适用于有一定机器学习或深度学习基础，并初步掌握PyTorch环境配置的相关开发者和技术爱好者，同时也非常适合从事医学影像分析或其他图像处理相关科研工作的专业研究人员用来进行项目实践探索。 使用场景及目标：这个模型可以应用于各种需要精确识别对象轮廓的任务如细胞计数检测、皮肤病灶边界分割等方面；其核心目的就是利用深度卷积神经网络提取图像特征，并借助注意力机制提升特征表达质量从而改善最终预测精度。 其他说明：此项目不仅限于二分类任务，只要调整相应的类别数即能应对多类别的情况，此外还允许用户选择不同的采样方式以适应更多种分辨率的图片处理需求。
基于resnet+unet的皮肤病变分割
02-25
该工程使用resnet50/101+hypercolumn+scse+unet算法实现对皮肤病变的分割
深度学习 Unet 改进【融合CBAM边缘注意力机制和联合损失改进】：不同颜色水体图像分割数据集（3类图像分割任务）数据+代码+训练结果
最新发布
04-17
加入CBAM模块 2.采用多类别的交叉熵和dice 损失 指标如下： train loss:0.3541 train mean iou:0.7000 train mean dice:0.8234 val loss:0.3670 val mean iou:0.7240 val mean dice:0.8396 更多unet、swinUnet改进...
注意力机制——CBAM原理详解及源码解析
秃头小苏的博客
03-28 6227
hello，大家好，我是小苏👦🏽👦🏽👦🏽​ 好久没有更新博客啦，今天来更一期注意力机制的文章吧！！！🌱🌱🌱在之前，我已经为大家介绍了一种最常见的注意力机制——SENET，感兴趣的可以点击☞☞☞了解详情。当然了，我也为大家介绍过目前很火的Transformer注意力机制，足足写了1W+字，自认为写的还是比较清晰，感兴趣的也可以点击☞☞☞了解更多信息。​ 今天我也为大家介绍一种非常常见的注意力机制——CBAM注意力机制。CBAM全称为，可以翻译成卷积块的注意模型。CBAM论文📩📩📩。
【nnUNetv2进阶】四、nnUNetv2 魔改网络-小试牛刀-加入注意力机制ChannelAttention
AI爱好者的博客，分享计算机领域相关知识
04-15 4121
本文介绍了在nnunet中加入ChannelAttention的方法，按照本文教的教程，可以快速完成ChannelAttention的加入和自定义模型的跑通。
UNet系列网络合集
h201601060805的博客
05-07 4052
1.U-net 最初的Unet的下采样过程非常的简单。那么我们看一下他的一些变体吧 import torch import torch.nn as nn import torch.nn.functional as f class Downsample_block(nn.Module): # 这里的in_channels和out_channels 都是通道数 def __init__(self,in_channels,out_channels): super(Downsample_block,sel
基于改进注意力机制的U-Net模型实现及应用（keras框架实现）
haosen
06-09 1万+
1.摘要 上节我们基于U-Net模型设计并实现了在医学细胞分割上的应用（ISBI 挑战数据集），并给出了模型的详细代码解释，在上个博客中，我们为了快速训练U-Net模型对其进行了缩减，将庞大的U-Net的转换为很小&的结构，导致其准确率才达到75%左右。为了进一步提高U-Net模型在细胞分割上的准确率，本文将主要研究两个方面：一是基于U-Net的原始模型结构进行改进，引入卷积注意力机制模块（CBAM）和FocalTversky损失函数；二是引入深监督方法(DEEP SUPERVISION)及多尺.
[pytorch] 试验--用CBAM注意力模块进行语义分割
ZJE
09-16 5555
CBAM是IEEE 2018的一篇文章 Convolutional Block Attention Module (CBAM) 表示卷积模块的注意力机制模块。是一种结合了空间（spatial）和通道（channel）的注意力机制模块。相比于senet只关注通道（channel）的注意力机制可以取得更好的效果。 CBAM的结构如下： 通道注意力决定了网络“lookwhat”，因为每个通道...
CBAM结合UNet
03-19
### CBAM注意力机制与U-Net架构结合 CBAM（Convolutional Block Attention Module）是一种轻量级的注意力模块，能够显著增强卷积神经网络中的特征表示能力。它通过通道注意和空间注意两个维度来提升模型性能[^1]。 #### U-Net架构概述 U-Net 是一种经典的用于图像分割的深度学习架构，其核心特点是编码器-解码器结构以及跳跃连接的设计。这种设计使得低层的空间细节信息可以被传递到高层语义信息中，从而提高分割精度[^2]。 #### 结合方法 为了将 CBAM 与 U-Net 架构结合起来，可以在以下几个部分引入 CBAM： 1. **编码器阶段** 在每一层下采样操作之后应用 CBAM 模块，这样可以让模型更加关注重要的特征区域并抑制不相关的背景噪声。这一步有助于提取更具判别性的特征[^3]。 2. **解码器阶段** 类似于编码器，在上采样的每一步加入 CBAM 来进一步优化恢复过程中的特征图质量。由于此时特征逐渐变大且更接近原始输入尺寸，因此利用 CBAM 可以更好地保留边界信息和其他细粒度特性[^4]。 3. **跳跃连接处** 当从编码器向解码器传输特征时，也可以在这些拼接之前或者之后插入 CBAM 层次处理融合后的数据流。这样做不仅加强了跨尺度间的信息交互效果，还可能减少冗余计算资源消耗[^5]。 以下是实现该组合的一个简单 PyTorch 示例代码片段: ```python import torch.nn as nn class ChannelAttention(nn.Module): def __init__(self, channel, reduction=16): super(ChannelAttention, self).__init__() # 定义通道注意力组件... def forward(self, x): ... class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() # 定义空间注意力组件... def forward(self, x): ... class CBAMBlock(nn.Module): def __init__(self, channels, reduction_ratio=16, kernel_size=7): super(CBAMBlock, self).__init__() self.channel_attention = ChannelAttention(channels, reduction_ratio) self.spatial_attention = SpatialAttention(kernel_size) def forward(self, input_tensor): ca_output = self.channel_attention(input_tensor) * input_tensor sa_output = self.spatial_attention(ca_output) * ca_output return sa_output def unet_with_cbam(): model = Unet() for layer in model.children(): # 遍历Unet各层 if isinstance(layer, ConvLayer): # 假设存在某种卷积层定义 cbam_layer = CBAMBlock(layer.out_channels) new_sequence = nn.Sequential(layer, cbam_layer) setattr(model, 'cbam_' + str(id(cbam_layer)), new_sequence) return model ``` 上述代码展示了如何创建一个带有 CBAM 的自定义 U-Net 版本。具体来说，我们遍历整个 U-Net 并将其某些特定类型的子模块替换为包含 CBAM 的序列化对象。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

点我头像干啥

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值