YOLOv5改进系列（27）——添加SCConv注意力卷积（CVPR 2023|即插即用的高效卷积模块）

已于 2024-01-23 10:56:39 修改
阅读量3.1k 收藏 33
点赞数 29
分类专栏： YOLOv5入门＋实践＋改进 文章标签： YOLO 深度学习 计算机视觉 人工智能
于 2024-01-17 09:00:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43334693/article/details/135610505
版权

962f7cb1b48f44e29d9beb1d499d0530.gif【YOLOv5改进系列】前期回顾：

YOLOv5改进系列（0）——重要性能指标与训练结果评价及分析

YOLOv5改进系列（1）——添加SE注意力机制

YOLOv5改进系列（2）——添加CBAM注意力机制

YOLOv5改进系列（3）——添加CA注意力机制

YOLOv5改进系列（4）——添加ECA注意力机制

YOLOv5改进系列（5）——替换主干网络之 MobileNetV3

YOLOv5改进系列（6）——替换主干网络之 ShuffleNetV2

YOLOv5改进系列（7）——添加SimAM注意力机制

YOLOv5改进系列（8）——添加SOCA注意力机制

YOLOv5改进系列（9）——替换主干网络之EfficientNetv2

​​​​​​YOLOv5改进系列（10）——替换主干网络之GhostNet

YOLOv5改进系列（11）——添加损失函数之EIoU、AlphaIoU、SIoU、WIoU

YOLOv5改进系列（12）——更换Neck之BiFPN

YOLOv5改进系列（13）——更换激活函数之SiLU，ReLU，ELU，Hardswish，Mish，Softplus，AconC系列等

YOLOv5改进系列（14）——更换NMS（非极大抑制）之 DIoU-NMS、CIoU-NMS、EIoU-NMS、GIoU-NMS 、SIoU-NMS、Soft-NMS

YOLOv5改进系列（15）——增加小目标检测层

YOLOv5改进系列（16）——添加EMA注意力机制（ICASSP2023|实测涨点）

YOLOv5改进系列（17）——更换IoU之MPDIoU（ELSEVIER 2023|超越WIoU、EIoU等|实测涨点）

了解本专栏 订阅专栏 解锁全文 超级会员免费看
路人贾'ω'
关注
  • 29
    点赞
  • 踩
  • 33
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 7
    评论
专栏目录
订阅专栏
YOLOv7改进：CVPR 2023 | SCConv: 即插即用的空间和通道重建卷积
m0_51530640的博客
07-25 873
1.该文章属于YOLOV5/YOLOV7/YOLOV8改进专栏，包含大量的改进方式，主要以2023年的最新文章和2022年的文章提出改进方式。2.提供更加详细的改进方法，如将注意力机制添加到网络的不同位置，便于做实验，也可以当做论文的创新点。2.涨点效果：添加 SCConv，经过测试，有效涨点。卷积神经网络(cnn)在各种计算机视觉任务中取得了显著的性能，但这是以巨大的计算资源为代价的，部分原因是卷积层提取冗余特征。最近的作品要么压缩训练有素的大型模型，要么探索设计良好的轻量级模型。
YOLOV8改进：CVPR 2023 | SCConv: 即插即用的空间和通道重建卷积
m0_51530640的博客
07-25 1914
1.该文章属于YOLOV5/YOLOV7/YOLOV8改进专栏，包含大量的改进方式，主要以2023年的最新文章和2022年的文章提出改进方式。2.提供更加详细的改进方法，如将注意力机制添加到网络的不同位置，便于做实验，也可以当做论文的创新点。2.涨点效果：添加 SCConv，经过测试，有效涨点。卷积神经网络(cnn)在各种计算机视觉任务中取得了显著的性能，但这是以巨大的计算资源为代价的，部分原因是卷积层提取冗余特征。最近的作品要么压缩训练有素的大型模型，要么探索设计良好的轻量级模型。
Yolov5/Yolov7 引入CVPR 2023 BiFormer: 基于动态稀疏注意力构建高效金字塔网络架构，对小目标涨点明显
各专栏持续更新中，改进创新YOLO，适用v5、v7、v8、v9，订阅者私信添加本人微信！！！ By AI小怪兽
03-23 9364
Yolov5/Yolov7 引入CVPR 2023 BiFormer: 基于动态稀疏注意力构建高效金字塔网络架构，对小目标涨点明显
YOLOv5改进：CVPR 2023 | SCConv: 即插即用的空间和通道重建卷积
m0_51530640的博客
07-25 1813
1.该文章属于YOLOV5/YOLOV7/YOLOV8改进专栏，包含大量的改进方式，主要以2023年的最新文章和2022年的文章提出改进方式。2.提供更加详细的改进方法，如将注意力机制添加到网络的不同位置，便于做实验，也可以当做论文的创新点。2.涨点效果：添加 SCConv，经过测试，有效涨点。卷积神经网络(cnn)在各种计算机视觉任务中取得了显著的性能，但这是以巨大的计算资源为代价的，部分原因是卷积层提取冗余特征。最近的作品要么压缩训练有素的大型模型，要么探索设计良好的轻量级模型。
手把手带你 YOLOv5/v7 添加注意力机制（并附上30多种顶会Attention原理图）2024/2/5更新
热门推荐
YOLOv8项目贡献者
04-27 17万+
YOLOv5/v7 添加注意力机制教程 2023/6/15更新🍀🍀🍀
YOLOv5改进系列（28）——添加DSConv注意力卷积（ICCV 2023|用于管状结构分割的动态蛇形卷积）
路人贾的博客
01-24 1366
YOLOv5改进系列（28）——添加DSConv注意力卷积（ICCV 2023|用于管状结构分割的动态蛇形卷积）
[CVPR 2023 Highlight] InternImage_基于可变形卷积的大规模视觉基础模型的探索.zip
02-07
[CVPR 2023 Highlight] InternImage_基于可变形卷积的大规模视觉基础模型的探索.zip
SCNet:PyTorch正式执行CVPR 2020论文“使用自校准卷积改进卷积网络”
04-13
网络PyTorch正式执行CVPR 2020论文更新2020.5.15 SCNet-50_v1d的预训练模型，对ImageNet top1 acc的改进超过2％（80.47对77.81）。 与原始版本的SCNet-50相比发布了！ SCNet-50_v1d在其他应用程序（例如对象检测和...
基于交错组卷积的高效深度神经网络
06-10
本课程将会讲解发表在计算机视觉顶级会议上的ICCV 2017和CVPR2018交错组卷积的方法，优于ResNets和谷歌的Mobilenets。交错组卷积包括几个互相互补的组卷积，可以解释为结构化的稀疏矩阵的乘积。在相同参数量相同计算...
BSConv:蓝图可分离卷积（CVPR 2020）的参考实现
04-14
重新思考深度可分离卷积：内核内相关如何导致改进的MobileNets Daniel Haase *，Manuel Amthor * 目录 CIFAR10-MobileNetV3-小 CIFAR10-MobileNetV3-大 CIFAR10-WRN-16 CIFAR10-WRN-28 CIFAR10-WRN-40 CIFAR...
matlab案例有代码-SelfDeblur:使用深度先验的神经盲反卷积（CVPR2020）
05-24
基于深度图像先验（DIP）[1]的动机，我们在本文中提出了两个生成网络，分别用于对清洁图像和模糊核的深度先验进行建模，并提出了一种针对盲反卷积的无约束神经优化解决方案（SelfDeblur）。 实验结果表明，与基准...
目标检测数据集 - 铁路工人安全检测数据集下载「包含VOC、COCO、YOLO三种格式」
极智视界
05-28 394
目标检测数据集 - 铁路工人安全检测数据集下载「包含VOC、COCO、YOLO三种格式」
【YOLOv5/v7改进系列】引入Slimneck-GSConv
最新发布
2401_84870184的博客
06-04 952
文章还提出了一种设计范式“slim-neck”，即仅在模型的“neck”部分使用GSConv，而非整个模型。：特别是在“细颈”(slim-neck)设计范式中，GSConv被应用于模型的中间连接部分，即neck，这时特征图已经过初步处理，变得较为精简，且宽度和高度减小到最小，而通道数达到最大。综上所述，GSConv通过创新的结构设计为轻量级目标检测模型提供了新的解决方案，尤其在自动驾驶领域，它能够帮助模型在保持高效运行的同时，提高对小目标的检测精度，但其应用也需考虑模型复杂度增加和实现上的局限性。
使用YOLOv10训练自己的数据集
BiGmowang的博客
06-01 865
（超详细）Python+PyCharm的安装步骤及PyCharm的使用（含快捷键）_python pycharm-CSDN博客。总体效果还是比其他版本好很多的，但是我的训练时间貌似比v8长不少，这里论文中也给出了解释。直接选用大家都有cpu训练，如果要使用GPU，将值改为0 即可，GPU使用依赖与yolov8一致。yolov10封装的很好，使用起来没什么难度，参考官方给的文档就能跑起来。使用PyCharm打开下载的yolov10源码，右下角切换到创建的环境。参考两位博主的论文分析。
yolov10/v8 loss详解
athrunsunny的博客
05-30 833
yolov10出了就想看看它的loss设计有什么不同，看下来由于v8和v10的loss部分基本一致就放一起了。v10的，还没看的可以看看，初步尝试耗时确实有提升好记性不如烂笔头，还是得记录一下，以免忘了，废话结束！！！
华为昇腾310 yolov8自训练模型推理使用
weixin_42357472的博客
05-30 281
参考： https://gitee.com/cumt/ascend-yolov8-sample/tree/masterhttps://developer.huawei.com/consumer/cn/forum/topic/0203148227811150357https://blog.csdn.net/weixin_42357472/article/details/139322218源码下载 安装opencv： 安装acl/acl.h： https://gitee.com/ascend/samples/t
YoloV8改进策略：Block篇|基于FasterNet的Block改进|附结构图|性能和精度得到大幅度提高（独家原创）
m0_47867638的博客
05-29 137
【代码】YoloV8改进策略：Block篇|基于FasterNet的Block改进|附结构图|性能和精度得到大幅度提高（独家原创）
【YOLOv8改进[Conv]】使用YOLOv10的空间通道解耦下采样SCDown模块替换部分CONv实践助力V8更优秀 + 含全部代码和修改内容 + 首发
静谧、淡雅
05-31 169
使用YOLOv10的空间通道解耦下采样SCDown模块替换部分CONv实践助力V8更优秀 + 含全部代码和修改内容 + 首发 + 遥遥领先
BiFormer注意力机制
09-13
BiFormer注意力机制是一种动态稀疏注意力机制，它是通过双层路由（bi-level routing）实现的。相比于其他方法，BiFormer采用查询自适应的方式关注一小部分相关标记，而不会分散其他不相关标记的注意力。这种机制可以提供更灵活的计算分配和内容感知，并使其具备动态的查询感知稀疏性。 具体来说，BiFormer的注意力机制通过两个关键步骤实现。首先，它使用一个基础模块来构建通用视觉网络架构。这个基础模块允许网络根据输入数据的特征动态地调整查询和键值的关联权重，以实现精确的注意力分配。其次，BiFormer使用双层路由来进一步增强注意力机制的灵活性和效率。双层路由允许网络在多个查询感知的维度上进行动态稀疏性，并在计算分配和内容感知之间取得平衡。 这种注意力机制的优势在于它在多项计算机视觉任务中都表现出良好的性能和高计算效率。例如，在图像分类、目标检测和语义分割等任务中，BiFormer的注意力机制通过充分关注相关标记，从而提高了模型在复杂场景中的表现能力。通过实验证明，BiFormer的注意力机制有效地解决了传统注意力机制中的问题，并在视觉任务中取得了显著的性能提升。 综上所述，BiFormer是一种具有双层路由的动态稀疏注意力机制，它通过查询自适应的方式关注一小部分相关标记，从而提供了更灵活的计算分配和内容感知。它在多个计算机视觉任务中表现出了良好的性能和高计算效率。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

路人贾'ω'

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值