Unet改进15：添加TripletAttention||减少冗余计算和同时存储访问

最新推荐文章于 2024-09-01 21:04:57 发布
最新推荐文章于 2024-09-01 21:04:57 发布
阅读量121 收藏
点赞数
分类专栏： Unet改进专栏 文章标签： 深度学习 神经网络 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_51530640/article/details/141788172
版权

本文内容：在不同位置添加TripletAttention注意力机制

目录

论文简介

1.步骤一

2.步骤二

3.步骤三

4.步骤四

论文简介

由于注意机制具有在通道或空间位置之间建立相互依赖关系的能力，近年来在各种计算机视觉任务中得到了广泛的研究和应用。在本文中，我们研究了轻量级但有效的注意机制，并提出了三重注意，这是一种利用三分支结构捕获跨维交互来计算注意权重的新方法。对于输入张量，三元组注意力通过旋转操作建立维度间依赖关系，然后进行残差变换，并以可忽略不计的计算开销对通道间和空间信息进行编码。我们的方法简单高效，可以作为附加模块轻松插入经典骨干网。我们证明了我们的方法在各种具有挑战性的任务上的有效性，包括在ImageNet-1k上的图像分类和在MSCOCO和PASCAL VOC数据集上的目标检测。此外，我们通过视觉检查GradCAM和GradCAM++结果，提供了对三重注意力性能的广泛洞察。对我们方法的经验评估支持了我们在计算注意力权重时捕获跨维度依赖关系的重要性的直觉

了解本专栏 订阅专栏 解锁全文 超级会员免费看
AICurator
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
订阅专栏
YoloV8改进策略：卷积篇|使用PConv替换YoloV8中的卷积|即插即用，简单高效
m0_47867638的博客
04-20 2262
本来想选COCO数据集，但是我觉得训练相同的epoch是一种不公平的对比，因为预训练本来就是COCO数据集上得来的，这样对官方的模型有利，而我改动了模型的结构，导致了没有预训练参数。所以我更换一个数据集。
YoloV8改进策略：BackBone改进|Mamba-UNet改进YoloV8，打造全新的Yolo-Mamba网络
m0_47867638的博客
02-14 3462
所提出的Mamba-UNet的架构如图2所示，其灵感来源于UNet [24] 和 Swin-UNet [3]。首先将大小为 H × W × 1 的2D灰度图像分割成类似于ViT和VMamba的块 [5,16]，然后转换为维度为 H/4 × W/4 × 16 的1D序列。一个初始的线性嵌入层将特征维度调整为任意大小C。这些块令牌随后通过多个VSS块和块合并层进行处理，以创建分层特征。块合并层负责下采样和维度增加，而VSS块则专注于学习特征表示。
Unet改进专栏项目：订阅了《Unet改进》专栏的读者免费赠送教程配套代码和答疑服务
最新发布
m0_51530640的博客
09-01 197
这是一个专注于Unet改进改进的项目，提供全面的改进方案，包括注意力机制，损失函数改进，激活函数改进和诸多即插即用模块。项目持续更新，支持答疑服务，订阅用户可获取最新改进的核心代码。1.Unet改进1：更换不同的激活函数2.Unet改进2：在不同位置添加CBAM注意力机制3.Unet改进3：在不同位置添加NAMAttention注意力机制4.Unet改进4：在不同位置添加GAMAttention注意力机制,保留信息以增强通道-空间相互作用5.Unet改进5：在不同位置添加EMA注意力机制,跨空间学习的高效多
SelfReg-UNet：解决UNet语义损失，增强特征一致性与减少冗余的优化模型
Debroon
06-25 1253
对应于去除重复的书籍或很少被查看的书籍。通过这种方式，优化后的模型（如SelfReg-UNet）就像是一个被精心整理过的书架，不仅容易找到所需的信息，而且还有效地利用了空间，去除了不必要的元素。：通过将特征图分割为两部分并独立处理，这种方法旨在减少特征冗余，并通过蒸馏技术从浅层特征向深层特征传递有价值的信息，促进模型学习更为精确和有用的特征表示。这两种方法都是针对UNet架构中存在的特征冗余和监督不对称问题提出的解决方案，旨在通过改进特征处理和优化信息流，提高模型对医学图像的分割精度和效率。
AI：210-YOLOv8改进：卷积篇 | 保姆级探索动态蛇形卷积 (Dynamic Snake Convolution) 的实现与应用
一键难忘的博客
08-05 4335
动态蛇形卷积是一种新的卷积操作，它能够更好地捕捉图像中的细节信息。传统卷积核的形状和大小是固定的，而动态蛇形卷积则允许卷积核在不同的位置动态调整其形状，以更好地适应输入数据的特点。这种灵活性使得动态蛇形卷积在处理复杂背景和细节丰富的图像时具有显著优势。我们先定义一个基本的动态蛇形卷积模块。这个模块将作为YOLOv8卷积层的替代。为了全面集成动态蛇形卷积，我们需要修改YOLOv8的模型定义，将所有的基础卷积层替换为我们的SnakeConv模块。
Unet改进17：添加ShuffleAttention||减少冗余计算和同时存储访问
m0_51530640的博客
09-01 131
注意机制使神经网络能够准确地关注输入的所有相关元素，已成为提高深度神经网络性能的重要组成部分。在计算机视觉研究中广泛应用的注意机制主要有空间注意和通道注意两种，它们的目的分别是捕捉像素级的成对关系和通道依赖关系。虽然将它们融合在一起可以获得比单独实现更好的性能，但它将不可避免地增加计算开销。在本文中，我们提出了一个高效的Shuffle Attention (SA)模块来解决这个问题，该模块采用Shuffle Units来有效地结合两种类型的注意机制。
Unet改进12：添加PCONV||减少冗余计算和同时存储访问
m0_51530640的博客
08-31 348
为了设计快速的神经网络，许多工作都集中在减少浮点运算(FLOPs)的数量上。然而，我们观察到FLOPs的这种减少并不一定会导致类似程度的延迟减少。这主要源于低效率的每秒浮点操作数(FLOPS)。为了实现更快的网络，我们回顾了流行的运营商，并证明了如此低的FLOPS主要是由于运营商频繁的内存访问，特别是深度卷积。因此，我们提出了一种新的部分卷积(PConv)，通过减少冗余计算和同时存储访问，更有效地提取空间特征。
Unet改进10：在不同位置添加CPCA||通道先验卷积注意力机制
m0_51530640的博客
08-29 621
低对比度和显著的器官形状变化等特征经常出现在医学图像中。现有注意机制的自适应能力普遍不足，限制了医学影像分割性能的提高。本文提出了一种有效的通道先验卷积注意(CPCA)方法，该方法支持通道和空间维度上注意权重的动态分布。通过采用多尺度深度卷积模块，有效地提取空间关系，同时保留先验通道。CPCA具有聚焦信息渠道和重点区域的能力。提出了一种基于CPCA的医学图像分割网络CPCANet。CPCANet在两个公开可用的数据集上进行验证。
Unet改进7：在不同位置添加SimAM注意力机制||无参数的卷积神经网络注意模块
m0_51530640的博客
08-25 168
在本文中，我们为卷积神经网络(ConvNets)提出了一个概念简单但非常有效的注意力模块。与现有的通道智能和空间智能注意力模块相比，我们的模块在不向原始网络添加参数的情况下推断出层中特征映射的三维注意力权重。具体来说，我们基于一些著名的神经科学理论，提出优化能量函数来找到每个神经元的重要性。我们进一步推导了能量函数的快速封闭解，并表明该解可以在不到十行代码中实现。该模块的另一个优点是，大多数算子都是根据定义的能量函数的解来选择的，避免了过多的结构调整工作。
深度学习100问27:什么是截断的BPTT
yyq916的博客
08-31 278
截断的 BPTT 呢，先确定一个合适的长度，就好比决定每一小段故事有多长。这种方法在很多地方都大显身手哦，比如自然语言处理里训练语言模型、搞机器翻译的时候，就像一个得力的小助手。想象一下，你有一个超级长的故事要讲，一口气从头讲到尾可太难啦，而且很容易把自己绕晕。这时候呢，截断的 BPTT 就像把这个长故事分成一小段一小段来讲。在循环神经网络训练那些长长的序列数据的时候，如果直接像个“愣头青”一样用传统方法，那计算量会大得吓人，还可能出现梯度消失或者爆炸的情况，就像烟花放一半突然熄火或者炸得不可收拾。
【王树森】RNN模型与NLP应用(2/9)：文本处理与词嵌入（个人向笔记）
hxdxiaoming的博客
08-29 861
本次课将使用下列数据集：关于电影评价的数据集。
【Datawhale X 李宏毅苹果书 AI夏令营】《深度学习详解》Task1 打卡
ljj的博客
08-26 1030
本文是【Datawhale X 李宏毅苹果书 AI夏令营】的Task1学习笔记打卡。
【王树森】RNN模型与NLP应用(1/9)：数据处理基础（个人向笔记）
hxdxiaoming的博客
08-29 384
为什么国籍要用One-Hot编码而不是直接用数字编码更节省存储空间？
【开发实战】QT5 + 深度学习六大应用案例
关注微信公众号【OpenCV学堂】
08-29 480
考虑到硬件普适性与高性价比，对于小于30MB的模型，OpenVINO + CPU的解决方案都会是比较合理跟高性价比的。现在OpenVINO2024最新版本还支持大模型+CPU的部署方案，只要几行代码即可完成。它们都支持Python与C++ SDK，支持多种模型压缩与量化机制，支持模型同步与异步推理。QT5 + OpenCV4.8 开发与配置环境搭建，请看博客文章。四 健身智能 - 自动引体向上计数。二 图像修复与自动水印移除。一 人像抠图 背景提取与替换。三 实时人脸识别应用。六 电子围栏语音报警。
深度学习100问24:什么是语言模型
yyq916的博客
08-30 529
原来呀，它悄悄地学习了好多好多的文本数据，就像读了无数本故事书一样。比如说，你给它一个句子的开头几个词，它就能像个聪明的小侦探一样，猜猜后面最有可能出现啥词。- 机器翻译：在翻译的世界里，它就像一个热心的小助手。帮助翻译系统更好地理解原文的意思，然后生成更通顺的目标语言文本。不管是搞笑的故事、严肃的论文，还是浪漫的诗歌，它都能应付得来，具有很强的通用性。能更好地理解你输入的查询意图，然后给你提供更准确的搜索结果。能理解你的问题，然后给出合理又好玩的回答。能生成超级自然的文本，就像真正的人写出来的一样。
深度学习——LLM大模型分词
一世纤华的博客
08-29 777
自从chatgpt出现，大模型的发展就进入了快车道，各种各样的大模型卷上天，作为一个在大模型时代的科研人，即使你不向前，也会被时代裹挟着向前，所以还是自己走快一点比较好，免得被后浪拍死在沙滩上。对于我而言，写文章更多的是对知识的总结和回顾，当然如果我的文章能够对你的学习有所帮助我也是挺开心的。这篇文章主要参考B站上的这位大神的视频以及Huggingface上的总结。
深度学习基础—彩色图片的卷积运算
sniper_fandc的博客
08-28 492
即假设输入图片是n*n*nc的大小，过滤器是f*f*nc的大小，得到的卷积结果是(n-f+1)*(n-f+1)*nc，其中nc是通道数，这里默认步长为1，不进行padding操作。但是如果想检测不同的边缘特征，比如想同时检测6*6 RGB图像垂直边缘和水平边缘，就可以使用2个3维过滤器（3*3*3），得到两个4*4的输出，把这两个4*4的输出堆叠为4*4*2的输出，这个输出表示同时检查水平和垂直边缘的结果。把这三个过滤器堆叠到一起形成3维过滤器，从而就可以只检测红色的边缘，绿色和蓝色不进行检测。
深度学习100问22:什么是RNN训练过程中的反向传播算法
yyq916的博客
08-30 290
有了这些梯度，小朋友就知道该怎么调整自己的“思考方式”了（更新网络的权重和偏置）。比如，如果发现某个线索（参数）对错误的影响很大，那就多调整一下这个线索的用法。在这个过程中，小朋友会计算出每个步骤对最终错误的“贡献”有多大，也就是计算损失函数对每个参数的梯度。想象一下，RNN 就像是一个在学习猜谜语的小朋友。反向传播呢，就是这个小朋友发现自己猜错了之后，想办法找出自己哪里错了并且改正的过程。总的来说，反向传播就是 RNN 自我改进的一种方法，通过从错误中学习，不断调整自己，变得越来越厉害。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AICurator

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值