[水论文]Refconv替换传统卷积，不增加计算负担，即插即用

已于 2023-12-01 15:09:38 修改
阅读量1.6k 收藏 10
点赞数
文章标签： 深度学习 人工智能
于 2023-12-01 15:06:12 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45371200/article/details/134734975
版权

介绍一种即插即用，替换传统卷积的模块RefConv。

论文链接：[2310.10563] RefConv: Re-parameterized Refocusing Convolution for Powerful ConvNets (arxiv.org)

源码：GitHub - Aiolus-X/RefConv

也可以去主页下载，如果没有就是还在审或者这个https://h5.m.taobao.com/awp/core/detail.htm?ft=t&id=751904510679

        作者从另一个角度来提高cnn的性能——增加现有结构的先验。例如，一个DW conv可以被认为是多个相互独立的2D转换核(称为核通道)的连接，特定的核通道的唯一输入是其特征图的对应通道(称为特征通道)，这可能会限制模型的表示能力。本文寻求在不改变模型定义或引入任何推理成本的情况下添加更多先验(例如，让内核通道与其他特征通道一起操作，将使操作不再是DW转换)，因此提出一种重新参数化技术，通过使其参数关注其他结构的参数来增加模型结构的先验。

        提出了一种可重参数化的重新聚焦卷积（RefConv），作为常规卷积层的替代品，它是一种即插即用的模块，可以在不引入任何推理成本的情况下提高性能。 本文提出RefConv来替换原始的卷积层，并通过实验验证了RefConv可以明显提高ImageNet上各种骨干模型的性能，而不需要额外的推理成本或改变模型结构。此外，RefConv还可以改善卷积网络在目标检测和语义分割方面的性能。

        实验结果表明，RefConv可以在不引入任何额外推理成本或改变原始模型结构的情况下，显着提高多种基于CNN的模型的性能（在ImageNet上最高提高1.47％的top-1准确率），用于图像分类、目标检测和语义分割

CV缝合怪
关注
  • 0
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 5
    评论
YoloV7改进策略：RefConv打造轻量化YoloV7利器
m0_47867638的博客
11-29 2081
REFCONV是一种用于构建强大卷积神经网络的重新参数化的重新聚焦卷积（re-parameterized refocusing convolution）。它是一种特殊的卷积层，旨在通过重新参数化输入特征图来增强卷积神经网络的能力。在传统的卷积神经网络中，卷积层通过将输入特征图与一组卷积核（filters）进行卷积运算，以检测和提取输入数据中的局部特征。然而，这种传统的卷积方式可能会在处理具有复杂结构和多样性的数据时遇到一些挑战。REFCONV通过重新参数化输入特征图来解决这些问题。
YOLOV8改进：RefConv（即插即用重参数化重聚焦卷积替代常规卷积，无额外推理成本下涨点明显）
m0_51530640的博客
10-21 1862
我们提出了重新参数化的重聚焦卷积（RefConv）作为常规卷积层的替代品，常规卷积层是一个即插即用的模块，可以在不需要任何推理成本的情况下提高性能。具体来说，给定一个预先训练的模型，RefConv对从预先训练的模型继承的基核应用一个可训练的重新聚焦转换，以建立参数之间的连接。例如，一个深度级的RefConv可以将卷积核的一个特定通道的参数与另一个核的参数联系起来，也就是说，使它们重新关注它们从未关注过的模型的其他部分，而不是只关注输入特性。
卷积神经网络中的即插即用模块.pdf
11-19
这里的即插即用模块主要分为注意力模块和其他模块。即插即用模块一般是作为一个独立的模块，可以用于取代普通的卷积结构，或者直接插入网络结构中。最常见的即插即用模块莫过于注意力模块了，近些年好多略显水的工作都用到了注意力模块，仅仅需要简单添加这些注意力模块即可作为论文的创新点，比如SENet+Darknet53 组合。
RefConv
whaosoft143ai的博客
11-01 525
值得注意的是，只有训练时间RefConv需要少量的额外计算来生成Wt，并且在转换权重后，重新参数化的RefConv模型将在结构上与基线相同(因为在推理过程中根本没有重新聚焦转换)，在推理中完全不需要额外的内存或计算成本。作者给出的解释是：RefConv 可以显式地使每个通道能够关注预训练的 Kernel 的其他通道，这就相当于是重新关注了预训练的 Kernel 通道中编码的表征，以学习到不同的新表征。相比之下，RefConv 带来的性能改进最大，且几乎没有额外的训练成本，证明了方法的优越性。whaosoft
【即插即用】RefConv-重聚焦卷积模块（附源码）
weixin_45694817的博客
03-18 1097
一种可重参数化的重新聚焦卷积（RefConv），作为常规卷积层的即插即用替代品，能够在不引入额外推理成本的情况下显著提高基于CNN的模型性能。
YoloV8改进策略：RefConv打造轻量化YoloV8利器
m0_47867638的博客
11-07 3723
REFCONV是一种用于构建强大卷积神经网络的重新参数化的重新聚焦卷积（re-parameterized refocusing convolution）。它是一种特殊的卷积层，旨在通过重新参数化输入特征图来增强卷积神经网络的能力。在传统的卷积神经网络中，卷积层通过将输入特征图与一组卷积核（filters）进行卷积运算，以检测和提取输入数据中的局部特征。然而，这种传统的卷积方式可能会在处理具有复杂结构和多样性的数据时遇到一些挑战。REFCONV通过重新参数化输入特征图来解决这些问题。
YOLOv7改进：RefConv | 即插即用重参数化重聚焦卷积替代常规卷积，无额外推理成本下涨点明显
m0_51530640的博客
11-11 811
​我们提出了重新参数化的重聚焦卷积（RefConv）作为常规卷积层的替代品，常规卷积层是一个即插即用的模块，可以在不需要任何推理成本的情况下提高性能。具体来说，给定一个预先训练的模型，RefConv对从预先训练的模型继承的基核应用一个可训练的重新聚焦转换，以建立参数之间的连接。例如，一个深度级的RefConv可以将卷积核的一个特定通道的参数与另一个核的参数联系起来，也就是说，使它们重新关注它们从未关注过的模型的其他部分，而不是只关注输入特性。
RefConv: 重参数化的重新聚焦卷积（论文翻译）
m0_47867638的博客
11-07 1884
论文链接：http://arxiv.org/pdf/2310.10563.pdf我们提出了一种可重参数化的重新聚焦卷积（RefConv），作为常规卷积层的替代品，它是一种即插即用的模块，可以在不引入任何推理成本的情况下提高性能。具体而言，给定一个预训练模型，RefConv将可训练的重新聚焦变换应用于从预训练模型继承的基核，以在参数之间建立连接。例如，深度方向的RefConv可以将卷积核的特定通道的参数与另一个核的参数关联起来，即让它们重新聚焦到模型的其他部分，而不是仅关注输入特征。
YOLOv8改进：小目标涨点系列篇 | 感受野注意力卷积运算（RFAConv）
会AI的学姐
10-18 425
感受野注意力卷积运算（RFAConv），解决卷积块只关注空间特征的问题点，不能完全解决卷积核参数共享的问题
11种开源即插即用模块汇总 ！！（附论文和代码）
不要给自己设限，尝试更多可能（思所向 皆可往）
01-20 3805
即插即用的模块就像是一盒乐高，让我们能快速组合各种设计好的模块，搭建出我们需要的模型，这样做不仅让建模速度提升，还保证了模型的创新性和有效性。
计算机视觉即插即用模块，部分卷积
01-13
为了实现更快的网络，我们重新审视了流行的操作符，并证明这种低FLOPS主要是由于操作符频繁的内存访问，尤其是...因此，我们提出了一种新的部分卷积（PConv），通过同时减少冗余计算和内存访问，更有效地提取空间特征。
线性卷积计算,计算线性卷积的直接计算方法
06-25
线性卷积计算,计算线性卷积的直接计算方法-linear convolution, the calculation of the linear convolution direct calculation method
用MATLAB计算连续时间信号的卷积
02-03
摘 要：介绍了用MATLAB软件计算连续时间信号卷积的一般方法，分析了选取的参数对卷积结果的影响。 关键词：连续时间信号；卷积；MATLAB 计算机高度发展的今天，在理工科大学专业基础课程中引入计算软件已成为...
卷积计算参数计算程序，便于网络搭建
02-06
卷积计算参数计算程序，便于网络搭建
【深度学习】【NLP】Bert理论，代码
q742971636的博客
06-11 1134
BERT (Bidirectional Encoder Representations from Transformers) 是一个由Google开发的自然语言处理预训练模型。BERT在多个NLP任务中取得了显著的效果，主要因为它能够利用句子中所有单词的上下文信息进行训练和预测。下面从公式和代码两个角度进行讲解。BERT 的输入由三个嵌入层组成：输入向量表示为： Input=Token Embedding+Segment Embedding+Position Embedding \text{Input} =
用GAN网络生成彩票号码
Pika
06-11 1842
简单的gan网络实现序列预测
2.深度学习-线性回归
最新发布
ls3614140的博客
06-15 367
一共训练了7000次，可以看到 loss 的值已经出现了过拟合的一个状态，所以大家在训练时这个模型的model.fit(x, y, epochs=7000)，epochs可以设置为6000看看状态。红色的点图是y = 3 * x + np.random.randn() * 2的图。相关环境配置看此篇文章，本专栏深度学习相关的版本和配置，均按照此篇文章进行安装。对比我们设置的y = 3 * x + np.random.randn() * 2。可以看出二者的趋势是吻合的，说明我们训练的模型效果还不错。
与传统卷积相比,深度可分离卷积的计算复杂度如何?
06-09
相比于传统的卷积运算，深度可分离卷积（Depthwise Separable Convolution）可以显著减小计算复杂度。深度可分离卷积是由深度卷积和逐点卷积两个步骤组成的，其中深度卷积只对输入的每个通道进行卷积，而逐点卷积则对每个通道中的每个位置进行卷积。因此，深度可分离卷积的计算量相对于传统卷积来说要小很多。 具体来说，假设输入的尺寸为$H\times W\times C_{in}$，输出的尺寸为$H\times W\times C_{out}$，卷积核的尺寸为$K\times K$，那么传统卷积的计算量为$H\times W\times C_{in}\times C_{out}\times K\times K$，而深度可分离卷积的计算量为$H\times W\times C_{in}\times K\times K + H\times W\times C_{in}\times C_{out}$。可以看出，深度可分离卷积的计算量远小于传统卷积的计算量，这也使得深度可分离卷积成为了卷积神经网络中非常常用的一种卷积方式。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 5
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CV缝合怪

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值