Unet改进32：添加SSPCAB(2024最新改进方法)|紧凑的网络结构和高效的运算

于 2024-09-11 20:10:08 发布
阅读量82 收藏
点赞数
分类专栏： Unet改进专栏 文章标签： 深度学习 神经网络 机器学习 unet 语义分割
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_51530640/article/details/142148961
版权

本文内容：在不同位置添加SSPCAB

目录

论文简介

1.步骤一

2.步骤二

3.步骤三

4.步骤四

论文简介

异常检测通常是一个单类分类问题，模型只能从正常的训练样本中学习，同时对正常和异常的测试样本进行评估。在成功的异常检测方法中，一类特殊的方法依赖于预测被掩盖的信息(如补丁、未来帧等)，并利用与被掩盖信息相关的重建误差作为异常评分。与相关方法不同，我们提出将基于重建的功能集成到一种新的自监督预测架构构建块中。所提出的自监督块是通用的，可以很容易地结合到各种最新的异常检测方法中。我们的区块从一个带有扩展过滤器的卷积层开始，其中接受野的中心区域被掩盖。产生的激活图通过一个通道注意模块传递。我们的区块配备了一个损失，最大限度地减少了重建误差相对于在接受区被掩盖的区域。我们通过将我们的块集成到几个最先进的图像和视频异常检测框架中来展示其通用性，并提供了经验证据，表明在MVTec AD、Avenue和ShanghaiTech上的性能有了相当大的提高

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AICurator
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
Mamba-UNet：用于医学图像分割的类似UNet的纯视觉Mamba网络
AI浩
02-14 4230
所提出的Mamba-UNet的架构如图2所示，其灵感来源于UNet [24] 和 Swin-UNet [3]。首先将大小为 H × W × 1 的2D灰度图像分割成类似于ViT和VMamba的块 [5,16]，然后转换为维度为 H/4 × W/4 × 16 的1D序列。一个初始的线性嵌入层将特征维度调整为任意大小C。这些块令牌随后通过多个VSS块和块合并层进行处理，以创建分层特征。块合并层负责下采样和维度增加，而VSS块则专注于学习特征表示。
图像分割UNet (1) : 网络结构讲解
@bangbang的博客
06-12 6053
UNet 论文：Convolutional Networks for Biomedical Image Segmentation 这篇论文主要是针对生物医学影像这个领域提出的，所以一提到UNet一般都会联想到医学影像。 UNet它是一个encoder - decoder的结构，那么encoder对应就是这个u型网络左边这半部分，也就是我们特征提取及下采样这部分。decoder解码就是右边部分通过一系列上采样，我们得到最终的一个分割图。.........
Unet网络---网络结构和pytorch实现
LiWnenHui的博客
09-13 2583
也即我们对人脸进行了编码。Unet网络结构简单，参数量少，但是可以获得细节丰富的输出，U形网络设计也为之后的计算机视觉工作提供了很多思路，同时也Unet网络也可以做很多优化改动，例如，可以在跳跃链接(skip)上添加注意力机制(Attention Mechanism)例如：通道-空间注意力机制；Unet相较于其他深度学习网络，更常用于计算机视觉领域，因为可以输出输入图像原始尺寸大小的图片，可以在输入图片上实现01分割，分类，语义分割等计算机视觉任务，且大部分只需要更改网络输出层的输出头，即可实现不同任务。
FCN、Unet、Unet++：医学图像分割网络一览
小白学视觉
03-01 3581
点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达作者丨Error@知乎来源丨https://zhuanlan.zhihu.com/p/159173338转自 | 极市...
深度学习：目标分割｜UNet网络模型及案例实现
热门推荐
m0_58475958的博客
08-15 1万+
1 UNet网络架构 UNet网络由左编码部分，右解码部分和下两个卷积+激活层组成 编码部分 从图中可知：架构中是由4个重复结构组成：2个3x3卷积层，非线形ReLU层和一个stride为2的2x2 max pooling层（图中的蓝箭头，红箭头） 每一次下采样特征通道的数量加倍 解码部分 和编码层类似，反卷积也有4个重复结构组成 每个重复结构前先使用反卷积，每次反卷积后特征通道数量减半，特征图大小加倍（绿箭头） 反卷积之后，反卷积的结果和编码部分对应步骤的特征图拼接起来（白/蓝块） 如果编
冠军方案解读 | nnUNet改进提升笔记
qq_29462849的博客
12-13 3553
点击上方“计算机视觉工坊”，选择“星标”干货第一时间送达作者丨ChaucerG来源丨集智书童本文描述了基于nn-UNet试验了几种改进，包括使用更大的网络、用GN替换BN以及在解码器中使用...
【论文笔记】UNet++：一种用于医学图像分割的嵌套U-Net结构
zuzhiang的博客
07-17 5345
本文是《UNet++: A Nested U-Net Architecture for Medical Image Segmentation》论文的阅读笔记。强烈建议大家去看下作者对这篇论文的思维过程：研习UNet。 文章提出了一个UNet++的网络，它是一个使用了深度监督（deep supervised）的编码器-解码器结构，在解码器和编码器之间有一系列的密集跳跃连接（dense skip connections）。 一、跳跃连接的重要性 有很多效果不错的网络结构都采用了跳跃连接的方式，如UNet网络和
unet 的优点_UNet++解读 + 它是如何对UNet改进 + 作者的研究态度和方式
weixin_39712821的博客
12-20 5120
UNet++论文: 地址UNet++论文翻译:地址UNet++源代码: 地址UNet++作者在知乎上进行了解读,里面还有视频的讲解,深入人心.里面有一句话令我印象深刻,我总结下: 很多论文给出了他们建议的网络结构，其中包括非常多的细节，比如用什么卷积，用几层，怎么降采样，学习率多少，优化器用什么，这些都是比较直观的参数，其实这些在论文中给出参数并不见得是最好的，所以关注这些的意义不大，一个网络结构...
U-MixFormer:用于高效语义分割的类unet结构的混合注意力Transformer
Scabbards_的博客
12-20 2904
作者提出了一种新的基于U-Net结构的Transformer解码器U-MixFormer。作者的方法通过利用编码器和解码器阶段之间的横向连接作为注意力模块的特征 Query ，除了依赖跳接的传统方式。此外，作者还创新地将来自不同编码器和解码器阶段的层次特征图混合，形成一个统一的表示形式，用于Key和Value，从而产生作者独特的_mix-attention_模块。感觉还是很不错的，未来可期！
Swin-UNet：基于纯 Transformer 结构的语义分割网络
weixin_37737254的博客
07-25 4347
VisualTransformerAuthor：louwillMachine Learning Lab 自从Transformer被引入计算机视觉以来，催生了大量相关研究与应用。在...
Unet改进30：添加CAA(2024最新改进方法)|上下文锚定注意模块来捕获远程上下文信息。
m0_51530640的博客
09-09 366
遥感图像中的目标检测经常面临一些日益严峻的挑战，包括目标尺度的巨大变化和不同的测距环境。先前的方法试图通过大核卷积或扩展卷积来扩展主干的空间感受野来解决这些挑战。然而，前者通常会引入相当大的背景噪声，而后者可能会产生过于稀疏的特征表示。在本文中，我们引入聚核初始网络(PKINet)来解决上述挑战。PKINet采用无扩展的多尺度卷积核来提取不同尺度的目标特征并捕获局部上下文。此外，还并行引入了上下文锚定注意(CAA)模块来捕获远程上下文信息。
Unet改进10：在不同位置添加CPCA||通道先验卷积注意力机制
m0_51530640的博客
08-29 854
低对比度和显著的器官形状变化等特征经常出现在医学图像中。现有注意机制的自适应能力普遍不足，限制了医学影像分割性能的提高。本文提出了一种有效的通道先验卷积注意(CPCA)方法，该方法支持通道和空间维度上注意权重的动态分布。通过采用多尺度深度卷积模块，有效地提取空间关系，同时保留先验通道。CPCA具有聚焦信息渠道和重点区域的能力。提出了一种基于CPCA的医学图像分割网络CPCANet。CPCANet在两个公开可用的数据集上进行验证。
Unet改进24：添加DualConv||轻量级深度神经网络的双卷积核
m0_51530640的博客
09-05 448
卷积神经网络(CNN)架构通常对内存和计算要求很高，这使得它们在硬件资源有限的嵌入式系统中不可行。我们提出了双卷积核(DualConv)来构建轻量级深度神经网络。DualConv结合3 × 3和1 × 1卷积核同时处理相同的输入特征映射通道，并利用群卷积技术高效排列卷积滤波器。DualConv可以在任何CNN模型中使用，如VGG-16和ResNet-50进行图像分类，你只看一次(YOLO)和R-CNN进行对象检测，或完全卷积网络(FCN)进行语义分割。
Unet改进19：添加ScConv||用于特征冗余的空间和通道重构卷积
m0_51530640的博客
09-02 1060
卷积神经网络(cnn)在各种计算机视觉任务中取得了显著的性能，但这是以巨大的计算资源为代价的，部分原因是卷积层提取冗余特征。最近的作品要么压缩训练有素的大型模型，要么探索设计良好的轻量级模型。在本文中，我们尝试利用特征之间的空间和通道冗余来进行CNN压缩，并提出了一种高效的卷积模块，称为SCConv (spatial and channel reconstruction convolution)，以减少冗余计算并促进代表性特征的学习。
Unet改进7：在不同位置添加SimAM注意力机制||无参数的卷积神经网络注意模块
m0_51530640的博客
08-25 197
在本文中，我们为卷积神经网络(ConvNets)提出了一个概念简单但非常有效的注意力模块。与现有的通道智能和空间智能注意力模块相比，我们的模块在不向原始网络添加参数的情况下推断出层中特征映射的三维注意力权重。具体来说，我们基于一些著名的神经科学理论，提出优化能量函数来找到每个神经元的重要性。我们进一步推导了能量函数的快速封闭解，并表明该解可以在不到十行代码中实现。该模块的另一个优点是，大多数算子都是根据定义的能量函数的解来选择的，避免了过多的结构调整工作。
从0开始深度学习（5）——线性回归的逐步实现
立志成为炼丹师？
09-05 441
matmul 函数是 PyTorch 中的一个方法，用于执行矩阵乘法。定义一个简单的线性模型，即一个特征矩阵X和向量w进行矩阵-向量相乘后，再加上一个偏置参数b"""线性回归模型"""因为需要计算损失函数的梯度，所以我们应该先定义损失函数。这里使用均方误差(MSE)"""均方损失"""线性模型有解析解，但是为了模拟其他没有解析解的模型，这里使用梯度下降，即在每一步中，使用从数据集中随机抽取的一个小批量，然后根据参数计算损失的梯度，接下来，朝着减少损失的方向更新我们的参数。每一步更新的大小由。
计算机毕业设计PySpark+Django深度学习游戏推荐系统 游戏可视化 游戏数据分析 游戏爬虫 Scrapy 机器学习 人工智能 大数据毕设
最新发布
全网粉丝100W+、全栈领域优质创作者、B站、github、CSDN等社区技术专家、专注于高端精品毕业项目源码实战
09-10 956
计算机毕业设计PySpark+Django深度学习游戏推荐系统 游戏可视化 游戏数据分析 游戏爬虫 Scrapy 机器学习 人工智能 大数据毕设
【深度学习讲解笔记】第1章-机器学习基础（3）
i156456365的博客
09-10 386
回顾我们之前构造复杂函数的方法：我们根据分段曲线逼近任意曲线原理，使用可导的sigmoid函数，通过调整b1, w1, c1, ..., bn, wn, cn的值，并将这些形状各异的sigmoid函数相加就可以逼近一条效果较好的函数曲线，这样的曲线减少了指数，对数，幂指数等对函数走向的限制，更加灵活。神经网络通常有很多层，这更加提升了机器学习得到复杂函数的能力，除了输入层和输出层外，其中夹杂的神经元称为。神经元的输出是一个数值，这个数值还可以连接到其他神经元的尾部作输入，由此将多个神经元连接形成的系统叫。
【人工智能学习笔记】4_1 深度学习基础之深度学习概述
RIKI_1
09-08 716
深度学习框架的选择往往需要考虑多方面的因素，如学习门槛、上手难度、开发速度、易用性等。
如何针对unet网络结构进行改进
03-30
针对UNet网络结构进行改进有很多方法，以下列举几个： 1. 使用更深的网络结构：UNet网络结构是一个浅层的网络结构，可以考虑使用更深的网络结构，如ResNet、DenseNet等，这些网络结构在图像分割任务中也有很好的表现。 2. 加入注意力机制：在UNet网络结构中，每个卷积层都会将上一层的特征映射和下采样的特征映射进行融合。可以考虑加入注意力机制，让网络更加关注重要的特征，从而提高分割效果。 3. 使用更好的损失函数：UNet网络结构通常使用交叉熵损失函数，但在一些特殊情况下，如医学图像分割，可以考虑使用Dice系数等更适合的损失函数。 4. 增加数据增强方式：数据增强是提高模型泛化能力的重要手段，可以考虑在UNet网络中增加更多的数据增强方式，如旋转、翻转、随机裁剪等。 5. 加入条件随机场（CRF）：CRF是一种用于图像分割的后处理方法，可以消除分割中的噪声和不连续性。可以考虑加入CRF来进一步提高UNet网络的分割效果。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AICurator

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值