YOLOv7独家原创改进：大核卷积涨点系列| Shift-ConvNets，稀疏/移位操作让小卷积核也能达到大卷积核效果 | 2024年最新论文

最新推荐文章于 2024-09-12 22:35:21 发布
最新推荐文章于 2024-09-12 22:35:21 发布
阅读量1.7k 收藏 4
点赞数 6
分类专栏： YOLOv7原创自研 文章标签： YOLO 机器学习 人工智能 深度学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_63774211/article/details/136070758
版权
YOLOv7原创自研 专栏收录该内容
50 篇文章 19 订阅 ¥299.90 ¥399.90
订阅专栏
本文提出Shift-ConvNets，通过移位操作使小卷积核达到大卷积核效果，增强CNN性能，应用于YOLOv7，实现在多个数据集上的性能提升。移位操作能捕获远程依赖，同时保持硬件友好，减少计算成本。
摘要由CSDN通过智能技术生成

  💡💡💡本文独家改进：大的卷积核设计成为使卷积神经网络（CNNs）再次强大的理想解决方案，Shift-ConvNets稀疏/移位操作让小卷积核也能达到大卷积核效果，创新十足实现涨点，助力YOLOv8

💡💡💡在多个私有数据集和公开数据集VisDrone2019、PASCAL VOC实现涨点

 
 

 

 收录

YOLOv7原创自研

https://blog.csdn.net/m0_63774211/category_12511937.html

💡💡💡全网独家首发创新（原创），适合paper ！！！

<

了解本专栏 订阅专栏 解锁全文
AI小怪兽
关注
专栏目录
订阅专栏
YoloV8改进策略：UniRepLKNet，大核卷积的最新成果，轻量高效的首选（全网首发）
m0_47867638的博客
12-05 3594
使用非常大的卷积核的卷积神经网络（ConvNets）的设计范式起源于ReplkNet [11]，当时ConvNets的地位受到Vision Transformers（ViTs） [12, 38, 61, 65]的挑战。受到使用全局注意力 [12, 54, 65]或使用大窗口注意力 [38, 49, 64]的ViTs的启发，ReplkNet提出使用非常大的卷积核。
YoloV7改进策略：UniRepLKNet，大核卷积的最新成果，轻量高效的首选（全网首发）
m0_47867638的博客
12-06 1414
使用非常大的卷积核的卷积神经网络（ConvNets）的设计范式起源于ReplkNet [11]，当时ConvNets的地位受到Vision Transformers（ViTs） [12, 38, 61, 65]的挑战。受到使用全局注意力 [12, 54, 65]或使用大窗口注意力 [38, 49, 64]的ViTs的启发，ReplkNet提出使用非常大的卷积核。
CVPR2024 | 大核卷积新高度101x101，美团提出PeLK
聚焦底层视觉处理，对相关基础AI技术持续学习
03-14 3102
最近，一些大核卷积网络以吸引人的性能和效率进行了反击。然而，考虑到卷积的平方复杂度，扩大内核会带来大量的参数，而大量的参数会引发严重的优化问题。由于这些问题，当前的 CNN 妥协以条带卷积的形式扩展到 (即 + ），并随着内核大小的持续增长而开始饱和。在本文中，我们深入研究解决这些重要问题，并探讨我们是否可以继续扩展内核以获得更多性能提升。受人类视觉的启发，我们提出了一种类人外围卷积，通过参数共享有效减少了密集网格卷积 90% 以上的参数数量，并设法将内核尺寸扩大到极大。
【机器学习】大卷积核or小卷积核
最新发布
fzy2003的博客
09-12 580
大卷积核和小卷积核在卷积神经网络设计中各有优势。大卷积核能一次捕捉全局信息，减少卷积层堆叠，但计算量和参数量大，容易忽略局部细节。小卷积核擅长捕捉局部特征，计算效率高，过拟合风险较低，但需要更多层来扩大感受野。结合大、小卷积核的架构（如RepLKNet）通过重参数化技术在训练时融合两者优点，既提升全局信息获取能力，又保持推理效率，是提高模型性能的一种有效方法。
大核卷积及其计算性能优化
m0_74043494的博客
01-25 1646
结构重参数化是一种训练时和推理时的动态结构调整技术，它可以在训练时使用小核卷积来模拟大核卷积的效果，然后在推理时将小核卷积折叠为大核卷积，从而保持模型的性能和效率。前面Table3的结果表明：对于ImageNet分类卷积核从3提升到9带来的性能提升为1.33%，而Cityscapes的性能提升则达到了3.99%。从上表可以看到：尽管最后阶段的卷积已有包含非常大的感受野，进一步提升感受野还可以进一步提升下游任务的性能。大核卷积的实用往往伴随着性能与速度的下降，为此，我们总结了5条大核卷积高效使用的指标方针。
UniRepLKNet：大核卷积的领先性能
cshsjdh的博客
02-04 2204
本文介绍UniRepLKNet论文及测试UniRepLKNet的性能，用到农业病害识别数据集做图像分类测试。
大卷积核：More ConvNets in the 2020s:Scaling up Kernels Beyond 51 × 51 using Sparsity
mytzs123的博客
07-21 244
通过各种任务的评估，包括ImageNet分类[12]、ADE20K上的语义分割[103]和PASCAL VOC 2007上的对象检测[23]，SLaK比CNN先驱（如ResNe（X）t[33，94]和ConvNeXt[56]以及基于注意力的模型（如ImageNet上的Swin Transformer[55]）具有更高的准确性。自[25，44，45]发明以来，卷积神经网络[42，70，33，35，34，94，75]在过去几十年中一直是机器学习最不可或缺的架构之一。这带来了显著的性能提高，在极端的。
Transformer太难 大核卷积太慢 到底怎么办？
m0_63642362的博客
05-27 705
Transformer 大核卷积虽好，速度不要太慢，怎么办，怎么办，到底怎么办
芒果YOLOv8改进98：主干Backbone篇之Shift-ConvNets：24年最新论文Shift-ConvNets：稀疏/移位操作让小卷积核也能达到大卷积核效果，来打造新颖YOLOv8检测器
包括YOLOv5、YOLOv7、YOLOv8等模型改进
02-02 918
YOLOv8改进芒果首发：24年最新论文Shift-ConvNets：稀疏/移位操作让小卷积核也能达到大卷积核效果
YOLOv5独家原创改进：大核卷积涨点系列| Shift-ConvNets，稀疏/移位操作让小卷积核也能达到大卷积核效果 | 2024年最新论文
02-08 1798
大的卷积核设计成为使卷积神经网络（CNNs）再次强大的理想解决方案，Shift-ConvNets稀疏/移位操作让小卷积核也能达到大卷积核效果，创新十足实现涨点，助力YOLOv8
Yolov8-pose关键点检测：大核卷积涨点系列 | Shift-ConvNets，具有大核效应的小卷积核 | 2024年最新论文
04-13 975
Shift-ConvNets稀疏/移位操作让小卷积核也能达到大卷积核效果，创新十足实现涨点，助力YOLOv8
YOLOv8独家原创改进：大核卷积涨点系列 | Shift-ConvNets，具有大核效应的小卷积核 | 2024年最新论文
02-07 2722
Shift-ConvNets稀疏/移位操作让小卷积核也能达到大卷积核效果，创新十足实现涨点，助力YOLOv8
YOLOv7改进：InceptionNeXtBlock大核深度卷积，扩大感受野 ，即插即用，小目标检测涨点明显 | CVPR2023 InceptionNeXt
10-09 633
Inception的思想和ConvNeXt的设计相结合，从而实现了对大核深度卷积的有效分解。这种分解不仅减少了参数量和计算量，而且保留了大核深度卷积的优势，即扩大了感受野和提高了模型性能
Scaling Up Your Kernels to 31x31: Revisiting Large Kernel Design in CNNs（关于大核卷积的论文笔记）
errorworn的博客
01-28 324
作者提出了一个提出了RepLKNet，一个纯CNN架构，其内核大小为31×31，而不是常用的3×3。此模型再一些经典的下游任务上获得了与Swin Transformer相当或更好的结果，并且延迟低。作者还提到与小核cnn相比，大核cnn具有更大的有效接受野和更高的形状偏差而不是纹理偏差。RepLKNet的高性能主要是因为通过大内核构建的大感受野。
当卷积核比图片还大会发生什么?
u012065954的博客
11-22 1351
卷积核太大,有一部分卷积核始终无法与图片进行重叠, 所以也不能进行参数调整,于是保持了随机噪音(灰色),
【YOLO v5 v7 v8 v9小目标改进】新CNN架构 InceptionNeXt：怎么让大卷积核既好用又快
Debroon
03-02 1457
MetaNeXt提供了改进空间信息处理效率的初始框架，Inception深度卷积进一步针对深度卷积的效率进行了优化，最后，InceptionNeXt模型整合了这些优化，构建出既高效又性能卓越的CNN模型。通过这种方法论的分解，我们不仅解决了传统深度卷积操作效率低下的问题，还提出了一种新的CNN架构，即InceptionNeXt，它通过简化和优化卷积操作来提高模型的整体性能和效率。具体来说，对于进行处理的通道，1/3的通道使用3×3的核心，1/3的通道使用1×k的核心，剩余1/3的通道使用k×1的核心。
UniRepLKNet：一种用于音频、视频、点云、时间序列和图像识别的通用感知大核卷积神经网络
weixin_45074568的博客
03-27 1219
论文: https://arxiv.org/abs/2311.15599模型: https://huggingface.co/DingXiaoH/UniRepLKNet/tree/main主页：https://invictus717.github.io/UniRepLKNet/提出了四条guide line用于设计大核CNN架构模型，用于图像识别，语音、点云、时序任务上，并且均取得了较SOTA的成绩，打破了传统观念上 只有Transformer才能一统多模态的事情。（只有打破人们传统观念，才能更加吸引人眼球
RepLKDeXt：超大卷积核在计算机视觉中的革命性突破
IbcVue的博客
09-16 283
近期，CVPR（计算机视觉与模式识别会议）发布了一项令人振奋的研究成果——RepLKDeXt，这是一种基于 RepLKNet 构建的全新主干网络结构。该网络结构引入了超大卷积核，尺寸高达 31x31，为计算机视觉任务带来了巨大的突破。本文将详细介绍 RepLKDeXt 的关键优势以及相应的源代码实现。
UniRepLKNet文章翻译
thewordafter的博客
01-03 1182
(注：以下翻译仅供学习交流使用，并尊重原作者的一切权益) UniRepLKNet：一种用于音频、视频、点云、时间序列和图像识别的通用感知Large-Kernel ConvNet 摘要 大核卷积神经网络（ConvNets）最近受到了广泛的研究关注，但有两个尚未解决的关键问题需要进一步的研究。1)现有的大核卷积网的架构在很大程度上遵循了传统的卷积网或变压器的设计原则，而针对大核卷积网的架构设计仍未得到充分解决。2)由于变压器主导了多种模式，convnet是否在视觉之外的领域也具有很强的普遍感知能力仍有
YOLOV7中使用到的卷积核大小
05-10
YOLOv7是一种目标检测模型，在其网络结构中使用了多种不同大小的卷积核。具体来说，YOLOv7使用了3x3和1x1大小的卷积核，其中3x3卷积核用于提取图像特征，1x1卷积核用于降低特征维度和混合通道。此外，YOLOv7还使用了一些其他的卷积核大小，如5x5和7x7等，用于不同层次的特征提取和感受野扩大。这些卷积核的大小和数量都是根据实验和调整得出的，以达到最佳的检测效果。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI小怪兽

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值