YOLOv10改进 | Conv篇 |YOLOv10引入ODConv卷积(助力涨点)

1. ODConv介绍

1.1 摘要:在每个卷积层中学习单个静态卷积核 1 是现代卷积神经网络(CNN)的常见训练范例。 相反,最近动态卷积的研究表明,学习 n 个卷积核的线性组合及其输入相关注意力的加权可以显着提高轻量级 CNN 的准确性,同时保持高效的推理。 然而,我们观察到现有的工作通过核空间的一个维度(关于卷积核数量)赋予卷积核动态属性,但其他三个维度(关于空间大小、输入通道数和输出通道数) 每个卷积核)都被忽略了。 受此启发,我们提出了全维动态卷积(ODConv),一种更通用但更优雅的动态卷积设计,以推进这方面的研究。 ODConv 利用一种新颖的多维注意力机制和并行策略来学习任何卷积层沿内核空间的所有四个维度的卷积核的互补注意力。 作为常规卷积的直接替代品,ODConv 可以插入到许多 CNN 架构中。 在 ImageNet 和 MS-COCO 数据集上进行的大量实验表明,ODConv 为各种流行的 CNN 主干网(包括轻量级和大型主干网)带来了可靠的准确度提升,例如 3.77%∼5.71%|1.86%∼3.72% 的绝对 top-1 改进 MobivleNetV2|ImageNet 数据集上的 ResNet 系列。 有趣的是,由于其改进的特征学习能力,即使只有一个内核的 ODConv 也可以与现有的具有多个内核的动态卷积对应物竞争或超越,从而大大减少了额外的参数。 此外,ODConv 在调节输出特征或卷积权重方面也优于其他注意力模块。

官方论文地址:

  • 6
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值