YOLOv5改进系列：长距离注意力轻量化主干GhostNetV2结构助力降参涨点

最新推荐文章于 2024-05-17 14:17:54 发布
最新推荐文章于 2024-05-17 14:17:54 发布
阅读量174 收藏
点赞数 1
分类专栏： YOLOv5改进涨点专栏 文章标签： YOLO 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ZzzzzKnight/article/details/136873583
版权

一、论文理论

论文地址：GhostNetV2: Enhance Cheap Operation with Long-Range Attention

1.理论思想

Ghost 模块设计的初衷是使用更少的参数来生成更多特征图 (generate more features by using fewer parameters)。给定输入特征，Ghost 模块将输出通道分成了两个部分 (一般是对半分)：

第一部分是常规的卷积，这部分就是正常的实现，没有任何区别。

第二部分是廉价操作 (cheap operation)，目的是得到另外一些特征图，只是不再采用常规的卷积进行实现，而是通过简单的线性变换 (Linear Transformation) 来生成，最后把两个部分的结果concat 在一起得到最终的输出。

2.创新点

DFC attention 捕获了不同空间位置像素之间的长距离依赖关系，增强了模型的表征能力。

将 DFC attention 插入到轻量化网络GhostNetV1中可以提升表征能力&#x

了解本专栏 订阅专栏 解锁全文
Dropout~~
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
订阅专栏
flexible-yolov5:具有更多主干（resnet，shufflenet，moblienet）的更具可读性和灵活性的yolov5
03-26
flexible-yolov5 基于 。 原始的Yolo V5是一个了不起的项目。 对于专业人士而言，理解和修改其代码应该不难。 我不是专家。 当我想对网络进行一些更改时，这并不是一件容易的事，例如添加分支和尝试其他骨干网。 也许会有像我这样的人，所以我将yolov5模型拆分为{主干，脖子，头部}，以方便各种模块的操作并支持更多的主干。基本上，我只更改了模型，而没有更改架构，培训和测试yolov5。 因此，如果原始代码被更新，则更新该代码也非常方便。 目录 [培训与测试]（＃培训与测试） 特征 重组骨干，脖子，头部等模型结构，可以灵活方便地修改网络 更多主干，mobilenetV3，shufflenetV2，resnet18、50、101等 先决条件 请参阅requirements.txt 入门 数据集准备 以yolov5格式制作数据。 您可以使用utils / make_yolov5
基于YOLOv5改进更多的主干resnet、shufflenet、moblenet、efficientnet、hrnet、cbam、dcn以及tensorrt等（源码+说明）.rar
04-15
1、资源内容：基于YOLOv5改进更多的主干resnet、shufflenet、moblenet、efficientnet、hrnet、cbam、dcn以及tensorrt等（源码+说明）.rar 2、适用人群：计算机，电子信息工程、数学等专业的大学生课程设计、期末大作业或毕业设计，作为“参考资料”使用。 3、更多仿真源码和数据集下载列表（自行寻找自己需要的）：https://blog.csdn.net/m0_62143653?type=download 4、免责声明：本资源作为“参考资料”而不是“定制需求”不一定能够满足所有人的需求，需要有一定的基础能够看懂代码，能够自行调试，能够自行添加功能修改代码。由于作者大厂工作较忙，不提供答疑服务，如不存在资源缺失问题概不负责，谢谢理解。
通俗易懂理解GhostNetV2轻量级神经网络模型
IT菜鸟
02-24 1851
通俗易懂理解GhostNetV2网络模型
YoloV8改进-三元注意力，小参数大能力，即插即用，涨点自如
02-05
注意力机制在计算机视觉领域得到了广泛的研究和应用，利用构建通道或空间位置之间的依赖关系的能力，有效地应用于各种计算机视觉任务。本文研究了轻量级但有效的注意力机制，并提出了一种新的计算注意力权重的方法——三元组注意力，通过一个三分支结构捕捉跨维度交互。对于输入张量，三元组注意力通过旋转操作和残差变换建立跨维度的依赖关系，并以极小的计算开销编码了跨通道和空间信息。这种方法既简单又高效，可以轻松地插入经典的主干网络中作为附加模块。在各种具有挑战性的任务中，如ImageNet-1k图像分类和MSCOCO和PASCAL VOC数据集上的目标检测，证明了该方法的有效性。此外，通过可视化检查GradCAM和GradCAM++结果，提供了对三元组注意力性能的深入见解。本文方法的实证评估支持了在计算注意力权重时捕捉跨维度依赖关系的重要性的直觉。
基于YOLOv4改进的轻量级水下目标检测网络
05-11
针对小型水下设备内存和计算能力有限的问题,本文对YOLOv4模型进行改进,提出了一种适用于水下目标检测的轻量级网络NSN-R-YOLOv4.在训练模型之前,对水下图像进行带色彩恢复的多尺度视网膜增强算法预处理,有助于在不同环境下正确识别目标.本文在改进YOLOv4网络结构时,首先,引入ShuffleNet和卷积块注意力机制构建主干网络,在保证网络特征提取能力的同时,可有效减少参数量;其次,使用深度可分离卷积代替普通网络卷积,以减少模型的体积;最后,采用可模拟人类视觉感受野的RFB-s代替YOLOv4中的SPP模块作为中间层.结果表明:本文模型参数量只有49.2M.本文对水下图像视频中的海参进行目标识别时,每秒传输帧数可达35.6,目标检测AP为92.01％.与YOLOv4相比,本文模型具有参数量小和识别效果好的特点,更适用于小型水下目标检测设备.
Yolov5结构图展示清晰易懂
08-03
YOLOv5算法本身非常优秀，随着其版本的迭代更新，网络各个模块对物体检测中的常见问题都做了一定的优化改进，本身就具有较好的工程实用性。 Input部分完成数据增强、自适应图片缩放、锚框计算等基本处理任务；Backbone部分作为主干网络，主要使用CSP结构提取出输入样本中的主要信息，以供后续阶段使用；Neck部分使用FPN及PAN结构，利用Backbone部分提取到的信息，加强特征融合；Prediction部分做出预测，并计算CIOU_Loss等损失值。 随着计算机视觉技术的不断发展，目标检测领域里的各种算法技术层出不穷，针对不同事物不同目标，我们需进行多方比较，进而择优选择。其中，YOLOv5算法，得益于速度快精度高而闻名，是一种经典且稳定的算法。 此份结构图，有助于大家了解yolov5模型的整体框架与架构，帮助大家理清原理熟悉源码设计。
轻量级网络CNN系列（二）：GhostNetV2
梦坠凡尘
06-29 2490
而在 DFC 中，每个 patch 的注意力值的计算直接与它水平或垂直位置的 patch 有关，而这些水平或垂直位置的 patch 的计算又与它们水平或垂直位置的 patch 有关。DW卷积的一个卷积核负责一个通道，例如对一个3×5×5的图片，输出通道数要与输入通道数相同，则普通卷积操作需要3×3×3×3的卷积核，但DW卷积操作只需要3×3×3的卷积核。PW卷积相反，是一个1×1×C的卷积核，对每个通道的相同位置进行加权和，C为输入特征图的通道数，若输出通道数为5，则卷积核shape为C×1×1×5。
GhostNet v2（NeurIPS 2022 Spotlight）原理与代码解析
00000cj的博客
02-12 9390
首先回顾下GhostNet，对于输入 \(X\in \mathbb{R}^{H\times W\times C}\)，Ghost module将一个标准的卷积替换成两步。首先用一个1x1卷积生成intrinsic feature。
GhostNetV2学习笔记
charles_zhang_的博客
11-21 5766
轻量级卷积神经网络(CNNs)是专为在移动设备上具有较快推理速度的应用而设计的。卷积运算只能捕获窗口区域的局部信息，这阻碍了性能的进一步提高。在卷积中引入自我注意可以很好地捕获全局信息，但会极大地影响卷积的实际速度。在本文中，我们提出了一种硬件友好的注意机制(称为DFC注意)，然后提出了一种新的移动应用的GhostNetV2架构。所提出的DFC注意结构基于全连接层，既能在普通硬件上快速执行，又能捕获远距离像素间的依赖关系。
YOLOv8 升级之路：GhostNetV2 主干网络解析与实操
一直在水些技术小文
09-20 1236
我们将介绍 GhostNetV2 的核心概念，然后通过示例和代码，带你深入了解如何在 YOLOv8 中使用 GhostNetV2，并进行实际操作。GhostNetV2 是 GhostNet 的进一步发展，GhostNet 是一种轻量级的神经网络架构，旨在在保持高精度的同时降低模型的复杂性。这将显著提高模型的性能，同时保持模型的轻量级特性。在开始之前，你需要确保你的环境中已经安装了相关的深度学习框架（如 PyTorch 或 TensorFlow）以及 YOLOv8 和 GhostNetV2 的库。
yolov5：将主干网络替换为resnet网络
04-09
yolov5：将主干网络替换为resnet网络；yolov5：将主干网络替换为resnet网络；yolov5：将主干网络替换为resnet网络；yolov5：将主干网络替换为resnet网络；yolov5：将主干网络替换为resnet网络；yolov5：将主干网络...
目标检测算法——YOLOv5/YOLOv7改进之结合无参注意力SimAM（涨点神器）
加勒比海带66——【YOLO魔法搭配&论文投稿咨询】
10-24 1万+
目标检测算法——YOLOv5/YOLOv7改进之结合无参注意力SimAM
目标检测算法——YOLOv5/YOLOv7改进之结合轻量化网络MobileNetV3（降参提速）
加勒比海带66——【YOLO魔法搭配&论文投稿咨询】
10-19 2万+
深度学习Tricks，第一时间送达。目标检测算法——YOLOv5结合轻量化网络MobileNetV3。
手把手带你 YOLOv5/v7 添加注意力机制（并附上30多种顶会Attention原理图）2024/2/5更新
热门推荐
YOLOv8项目贡献者
04-27 17万+
YOLOv5/v7 添加注意力机制教程 2023/6/15更新🍀🍀🍀
YOLOv5轻量化骨干设计，通过结合GHostNetv2结构实现计算量降低
qq_44224801的博客
05-21 2279
GhostNetv2是一种针对移动设备和边缘设备的优化神经网络，其设计继承了GhostNetv1的高效节省计算资源的特性，并在其基础上引入了一种新的注意力模块——DFC注意力模块，以增强模型对长距离空间信息的处理能力。DFC注意力模块是一种基于解耦全连接层的注意力机制，设计满足以下三个条件：对空间长距离信息的建模能力强；部署高效，对硬件友好且计算高效；概念简单，便于保证注意力模块的泛化能力。对于端侧设备这类计算资源受限的环境，以上设计目标帮助模型在提升性能的同时，不牺牲实时性和部署效率。
GhostNetV2（2022）（全文翻译）
m0_60534571的博客
03-18 1744
轻量级卷积神经网络 (CNN) 专为推理速度更快的移动设备上的应用而设计。卷积运算只能捕获窗口区域的局部信息，这阻碍了性能的进一步提高。将self-attention引入卷积可以很好地捕捉全局信息，但会在很大程度上阻碍实际速度。在本文中，我们提出了一种硬件友好的注意力机制（称为 DFC 注意力），然后提出了一种用于移动应用程序的新 GhostNetV2 架构。所提出的DFC 注意力是基于全连接层构建的，它不仅可以在普通硬件上快速执行，还可以捕获远程像素之间的依赖关系。
深度学习之基于Yolov7驾驶员疲劳检测系统
最新发布
2301_79809972的博客
05-17 974
一、项目背景随着汽车保有量的不断增加，驾驶安全问题日益受到人们的关注。驾驶员疲劳驾驶是导致交通事故的重要原因之一。因此，开发一种能够实时监测驾驶员疲劳状态并提前发出预警的系统对于保障驾驶安全具有重要意义。近年来，深度学习技术特别是目标检测技术在计算机视觉领域取得了显著进展，为驾驶员疲劳检测提供了新的解决方案。本项目旨在利用YOLOv7算法，开发一个基于深度学习的驾驶员疲劳检测系统。二、项目目标。
【YOLOv7改进系列】引入YOLOv5的C3模块
2401_84870184的博客
05-14 273
C3模块的第二阶段使用深度可分离的膨胀卷积，扩大了感受野，增强了全局一致性。：C3模块采用两阶段设计，首先使用深度方向的非对称卷积来收集并压缩相邻像素的信息，减轻由于膨胀卷积造成的局部信息丢失问题。总之，C3模块通过创新的结构设计，有效融合了深度可分离卷积和膨胀卷积的优点，实现了轻量化模型设计中的一个关键突破，同时保持了分割和分类任务的高性能表现。：除了语义分割，C3模块还被应用于ImageNet分类任务，展示出替换膨胀卷积并维持或提升性能的能力，进一步验证了其作为深度学习基本构建块的潜力。
GhostNetV2中DFC注意力结构的优点
06-09
GhostNetV2中DFC注意力结构的优点包括： 1. 高效性：DFC注意力结构采用了类似于深度可分离卷积的方式，将空间特征和通道特征分别进行处理，从而减少了计算量和参数量，提高了模型的运行效率。 2. 有效性：DFC注意力结构中的通道注意力和空间注意力都是基于局部特征进行计算的，能够有效地捕捉图像中的重要特征，从而提高了模型的分类精度。 3. 灵活性：DFC注意力结构可以自适应地学习不同特征之间的关系，并根据不同任务的需求进行调整，具有一定的灵活性。 综上所述，DFC注意力结构在GhostNetV2中的应用能够提高模型的运行效率和分类精度，具有较好的优点。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值