YOLO11改进|卷积篇|引入全维动态卷积ODConv

最新推荐文章于 2024-10-11 09:22:55 发布
最新推荐文章于 2024-10-11 09:22:55 发布
阅读量1k 收藏 19
点赞数 31
分类专栏： YOLO11改进专栏 文章标签： YOLO
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/A1983Z/article/details/142711732
版权

在这里插入图片描述

目录

一、【ODConv】全维动态卷积

1.1【ODConv】卷积介绍

在这里插入图片描述

ODConv利用一种全新的多维注意力机制和并行策略，在任何卷积层沿内核空间的四个维度学习卷积内核的注意力。 作为常规卷积的替代品，ODConv 可以插入到许多 CNN 架构中。也就是说是的即插即用的模块。通过下图可以看到，新引入的三个注意力，分别沿空域维度、输入通道维度以及输出通道维度
在这里插入图片描述
以下是ODConv的工作流程图以及简单流程介绍

  1. 输入处理阶段:
    GAP (Global Average Pooling)：对输入特征 x 进行全局平均池化，生成一个全局的特征向量。此操作减少了空间维度，保留了通道信息的
了解本专栏 订阅专栏 解锁全文 超级会员免费看
YOLO11改进|卷积篇|引入SPDConv
A1983Z的博客
10-06 1600
YOLO11中添加SPDConv卷积
YOLO11改进|卷积篇|引入轻量级自适应提取卷积LAE
A1983Z的博客
10-08 1263
YOLO11中添加LAE轻量级自适应提取卷积
动态卷积之Dynamic Convolution
机器学习，深度学习
03-23 9408
论文题目:Dynamic Convolution: Attention over Convolution Kernels 论文地址:https://arxiv.org/abs/1912.03458 前几天发布了关于动态卷积CondConv的文章.今天,我想介绍另一种类型动态卷积Dynamic Convolution,相关文章链接在本文的开头已经给出,感兴趣的可以自己去下载并阅读.最近发现这个卷积的研究比较热门,研究者们试图要打破常规卷积对数据"一视同仁"的思想,设计一种依赖于输入样本的卷积即每个样本.
动态卷积
gwpscut的博客
04-05 8428
卷积层是通过将上一层的特征映射与一组过滤器进行卷积来计算输出特征映射。这些滤波器是卷积层的唯一参数，通常通过反向传播算法在训练中学习。我们提出了一种新的深度网络层，称为“动态卷积层”，是对卷积层的一种推广。传统的卷积层使用在训练中学习的过滤器，在测试中保持不变。与此相反，动态卷积层使用的过滤器在测试期间会随着输入的不同而变化。这是通过学习将输入映射到过滤器的函数来实现的。 与卷积层类似，动...
动态卷积 Dynamic convolution
热门推荐
Dongjiuqing的博客
03-17 2万+
动态卷积的相关文章
【YOLOv8改进-卷积Conv】 ODConv(Omni-Dimensional Dynamic Convolution)：全维度动态卷积
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
06-02 448
在现代卷积神经网络（CNN）中，每个卷积层中学习单个静态卷积核是常见的训练范式。然而，最近在动态卷积的研究中表明，通过学习 n 个卷积核的线性组合，并且这些卷积核的权重取决于它们的输入相关注意力，可以显著提高轻量级 CNN 的准确性，同时保持高效的推理。但是，我们观察到，现有的工作通过一个维度（关于卷积核数量）赋予卷积核动态属性，但另外三个维度（关于每个卷积核的空间大小、输入通道数和输出通道数）被忽略了。
YOLO11改进|卷积篇|引入空间通道重组卷积ScConv
A1983Z的博客
10-05 897
YOLO11中添加SCConv卷积
YOLO11改进|卷积篇|引入可变核卷积AKConv
A1983Z的博客
10-02 1131
YOLO11中添加AKConv卷积
深度学习——全维度动态卷积ODConv
R的博客
08-03 8582
动态卷积就是对卷积核进行线性加权第一篇提出动态卷积的文章也是在SE之后，他提出目前的注意力机制模型主要都是在特征图上做工作，而动态卷积它对多个卷积核进行线性加权，加权值则与输入有关，这就使得动态卷积具有输入依赖性。也就是说，对于不同的输入，我们使用不同的卷积核。之后对这些不同的卷积核，进行注意力加权。看这组图片，这是的作者提出的。在两种方式的对比下，发现他们的作用是一样的。
YOLO11改进|卷积篇|引入可切换空洞卷积SAConv
最新发布
A1983Z的博客
10-11 1293
YOLO11中添加可切换空洞卷积SAConv
YOLOv8改进 | 主干网络 | C2f融合动态卷积模块ODConv
kay_545
07-01 1561
ODConv（Omni-Dimensional Dynamic Convolution）的主要原理是通过引入多维度注意力机制来动态调整卷积核参数，从而在卷积神经网络中实现更灵活和精确的特征提取。它通过计算并应用空间注意力、通道注意力、滤波器注意力和核选择注意力，全面地调整卷积核在各个维度上的权重。这种多维度的动态调整机制使得ODConv能够根据输入图像的特征动态选择最合适的卷积核组合，从而在各类高层视觉任务（如图像分类、目标检测和图像分割）中实现显著的性能提升，同时保持较高的参数效率。
DynamicConv（动态卷积）
微信号：Custom-Software
08-23 8877
DynamicConv（动态卷积） 第一个总结: 动态卷积的目标在于：在网络性能与计算负载中寻求均衡。常规提升网络性能的方法（更宽、更深）往往会导致更高的计算消耗，因此对于高效网络并不友好。 因而，相比静态卷积，动态卷积具有更强的特征表达能力。 相比静态感知器，动态感知器具有更大的模型。它包含两个额外的计算：(a)注意力权值计算；(2)动态权值融合。尽管如此，这两点额外计算相比感知器的计算量可以忽略： Dynamic Convolution 类似于动态感知器，动态卷积同样具有K个核。按照CNN中的经典设
ICLR 2022）ODConv：即插即用的动态卷积 （附代码）
PLANTTHESON的博客
11-01 9741
一定程度上讲，ODConv可以视作CondConv的延续，将CondConv中一个维度上的动态特性进行了扩展，同时了考虑了空域、输入通道、输出通道等维度上的动态性，故称之为全维度动态卷积。ODConv是一种动态卷积算法，它的原理是在卷积过程中，根据输入数据的特征动态地调整卷积核的形状和大小，以适应不同的输入数据。具体来说，ODConv通过引入一个可学习的形变模块，根据输入数据的特征动态地调整卷积核的形状和大小，从而提高了卷积神经网络的性能。此外，相比常规卷积，动态卷积的卷积核参数往往是其n倍。
Yolo系列——动态卷积
luralying的博客
07-05 1196
动态卷积的基本思路是根据输入数据，自适应地的调整卷积参数。即做采用的卷积核与输入相关，不同的输入有着不同的卷积核。
动态卷积：自适应调整卷积参数，显著提升模型表达能力 CVPR 2020
我爱计算机视觉
06-08 6825
本文转载自微软研究院AI头条。编者按：轻量级卷积神经网络能够在较低的计算预算下运行，却也牺牲了模型性能和表达能力。对此，微软 AI 认知服务团队提出了动态卷积，与传统的静态卷积（每层单个...
动态卷积 分享
weixin_39138233的博客
08-02 84
旷视研究院 Base Model组发表于CVPR2021上的一篇"动态区域感知卷积”的工作，提出进一步提升分类/检测/分割性能的方法。下面是北京理工大学的同学对本文的精彩解读(有视频哦)，欢迎感兴趣的同学关注！ https://mp.weixin.qq.com/s/z7AkTmXYyH5ytFC90g3v9Q ...
cnn中的动态卷积
liguandong
09-22 995
模块核心是类似se的通道作用机制，对通道维度进行重要性分数生成，然后取topk进行排序，对其余的卷积值进行0填充，在进行卷积操作。总结一波cnn卷积核上的设计，核心思路是对卷积核做一些改进，更加轻量化，高效。
动态卷积（轻量级卷积）替代多头自注意力
qq_47896523的博客
07-29 963
动态卷积，它比自注意力更简单、更有效。我们仅基于当前时间步长预测单独的卷积核，以确定上下文元素的重要性。这种方法所需的操作数量随输入长度呈线性增长，而自注意力是二次的。在大规模机器翻译、语言建模和抽象摘要上的实验表明，动态卷积比强自注意模型有更好的改进。
yolo添加可变形卷积
08-24
Yolo中添加可变形卷积是为了提升目标检测的精度，可变形卷积能够更好地适应目标的形状变化。在Yolo中，可变形卷积可以用来替代普通的卷积层，从而增强模型对目标形状的建模能力。 要在Yolo中添加可变形卷积，需要...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值