Unet改进20:添加RFAConv||用于特征冗余的空间和通道重构卷积

本文内容:添加RFAConv

论文简介

空间注意被广泛用于提高卷积神经网络的性能。然而,它也有一定的局限性。本文提出了空间注意有效性的新视角,即空间注意机制本质上解决了卷积核参数共享问题。然而,空间注意生成的注意图所包含的信息对于大尺度卷积核来说是不够的。因此,我们提出了一种新的注意机制,即接受场注意(RFA)。现有的空间注意方法,如卷积块注意模块(CBAM)和协调注意(CA),只关注空间特征,没有充分解决卷积核参数共享问题。相比之下,RFA不仅关注接受场空间特征,而且为大尺寸卷积核提供了有效的注意权值。RFA开发的接受场注意卷积运算(RFAConv)代表了一种替代标准卷积运算的新方法。它提供了几乎可以忽略不计的计算成本和参数增量,同时显著提高了网络性能。我们在ImageNet-1k、COCO和VOC数据集上进行了一系列实验,以证明我们方法的优越性。特别重要的是,我们认为现在是时候将焦点从空间特征转移到当前空间注意机制的接受场空间特征上了。

1.步骤一

新建blocks/CONV.py文件,添加如下代码:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AICurator

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值