YOLO11涨点优化：轻量化卷积魔改 | 动态卷积DynamicConv ，CVPR2024 ParameterNet,低计算量小模型也能从视觉大规模预训练中获益

已于 2024-10-11 21:24:20 修改
阅读量537 收藏 2
点赞数
分类专栏： YOLO11魔术师 文章标签： 深度学习 人工智能 目标检测 神经网络 目标跟踪 计算机视觉
于 2024-10-11 15:40:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_63774211/article/details/142855532
版权

💡💡💡问题点：大规模视觉预训练显著提高了大型视觉模型的性能，即现有的低FLOPs模型不能从大规模的预训练中获益

 💡💡💡解决对策：ParameterNet，旨在增加大规模视觉预训练模型中的参数数量，同时最小化FLOPs的增加，利用动态卷积将额外的参数合并到网络中。

💡💡💡动态卷积引入到YOLO11：1) DynamicConv；2）DynamicConv+Bn+Act；

使用方法：直接代替YOLO11中的卷积；

 💡💡💡在多个数据集上涨点的前提下，原始6.4 GFLOPs降低至4.7 GFLOPs，具体实验性能如下表

YOLO1
了解本专栏 订阅专栏 解锁全文
YOLOv11改进 | Conv篇 | 引入DSConv
qq_55421331的博客
11-11 306
以上就是该模块添加到yolov11中的方法，你可以加在yolov11的任何位置（只要他能跑起来,你可以合理的解释它为什么出现这个位置）。跑实验的过程是枯燥乏味的，希望我远在天边的朋友你能耐得住寂寞，早日跑出自己想要的结果！！！
YOLO11涨点优化：block优化 | LSKblockAttention助力旋转目标检测，南开大学提出LSKNet：遥感旋转目标检测新SOTA
10-10 542
如何与YOLO11结合，LSKblockAttention与11Detect高效结合，提升旋转目标检测精度
YOLOv11 模型量化综述
old_power的博客
01-23 1257
YOLOv11 是 Ultralytics 推出的最新目标检测模型，具有更高的精度和更少的参数量，适用于多种计算机视觉任务。模型量化是优化 YOLOv11 推理速度和减少资源占用的关键技术之一。以下是关于 YOLOv11 模型量化的详细解读和方法总结：
yolo11参数信息
记录日常码代码的点点滴滴
04-02 799
本文介绍yolo11训练和推理默认参数信息。
YOLOv5全网独家改进: 红外小目标 | 注意力机制改进 | 并行化注意力设计（PPA）模块，红外小目标暴力涨点 | 2024年3月最新成果
03-24 774
红外小目标实现暴力涨点，只有几个像素的小目标识别率大幅度提升
【YOLOv8改进-注意力机制】MLCA(Mixed local channel attention):混合局部通道注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-28 1368
本项目介绍了一种轻量级的 Mixed Local Channel Attention (MLCA) 模块，该模块同时考虑通道信息和空间信息，并结合局部信息和全局信息以提高网络的表达效果。基于该模块，我们提出了 MobileNet-Attention-YOLO(MAY) 算法，用于比较各种注意力模块的性能。在 Pascal VOC 和 SMID 数据集上，MLCA 相对于其他注意力技术更好地平衡了模型表示效果、性能和复杂度。
全网首发YOLOv5/YOLOv7暴力涨点：Gold-YOLO，遥遥领先，超越所有YOLO | 华为诺亚NeurIPS23
09-25 3429
Gold-YOLO，遥遥领先，超越所有YOLO，替换yolov5 head部分实现暴力涨点
YOLOv8改进 | 注意力机制 | 添加MLCA混合局部通道注意力（轻量化注意力机制）
Snu77的博客
01-03 8239
本文带来的改进机制是MLCA(Mixed local channel attention)翻译来就是混合局部通道注意力，它结合了局部和全局特征以及通道和空间特征的信息，根据文章的内容来看他是一个轻量化的注意力机制，能够在增加少量参数量的情况下从而大幅度的提高检测精度(论文中是如此描述的)，根据我的实验内容来看，该注意力机制确实参数量非常少，效果也算不错，而且官方的代码中提供了二次创新的思想和视频讲解非常推荐大家观看。推荐指数：⭐⭐⭐⭐⭐涨点效果：⭐⭐⭐⭐⭐。
YOLOv10涨点改进：轻量化卷积魔改 | 动态卷积DynamicConv ，CVPR2024 ParameterNet,低计算量小模型也能从视觉大规模预训练中获益
06-09 933
动态卷积引入到YOLOv10：1)DynamicConv；2）DynamicConv+Bn+Act；
YOLOv12涨点优化：轻量化卷积魔改 | 动态卷积DynamicConv ，CVPR2024 ParameterNet,低计算量小模型也能从视觉大规模预训练中获益
03-04 307
在多个数据集上涨点的前提下，原始6.5 GFLOPs降低至4.7 GFLOPs，具体实验性能如下表
YOLOv8独家改进：卷积变体系列篇 |动态卷积 DynamicConv, CVPR2024 ParameterNet 低计算量小模型也能从视觉大规模预训练中获益
会AI的学姐
04-28 900
显著提高了大型视觉模型的性能，即现有的低FLOPs模型不能从大规模的预训练中获益
YOLO11改进：卷积变体系列篇 |动态卷积 DynamicConv, CVPR2024 ParameterNet 低计算量小模型也能从视觉大规模预训练中获益
会AI的学姐
01-10 105
动态卷积引入到YOLO11，直接替换原始的Conv操作：
涨点神器：基于Yolov5/Yolov7的SPD-Conv，低分辨率图像和小物体涨点明显
03-20 3472
无卷积步长或池化:用于低分辨率图像和小物体的新 CNN 模块SPD-Conv
涨点技巧：基于Yolov5的轻量级上采样CARAFE算子，提升小目标检测性能
03-23 6583
轻量级上采样CARAFE算子应用于yolov5/yolov7用于提升小目标检测性能
YOLOv11知识蒸馏，实现无损涨点，包含逻辑蒸馏和特征蒸馏中的不同蒸馏方法，适用专栏内的所有模型
Limiiiing的博客
03-20 1636
知识蒸馏（Knowledge Distillation）是由 Hinton 等人在 2015 年提出来的，主要是用一个复杂的教师模型去指导一个简单的学生模型训练，这样能让学生模型在保持高精度的同时，还能减少计算量。本文便是讲解如何针对的原始模型以及改进后的模型进行知识蒸馏，轻松实现无损涨点。知识蒸馏的核心在于利用已训练好的复杂模型（教师模型）去指导一个更简单的模型（学生模型）进行训练，以此让学生模型在保留较高精度的同时，降低计算成本。特征蒸馏（Feature Distillation）是知识蒸馏的一种形式，
YOLO11实战：新颖的多尺度卷积注意力（MSCA）加在网络不同位置的涨点情况 | 创新点如何在自己数据集上高效涨点，解决不涨点掉点等问题
10-10 3241
原始mAP50为0.768，改进1结构图为mAP50为0.788，改进2结构图为mAP50为0.792，改进3结构图为mAP50为0.775
YOLOv11改进 | 细节涨点篇 | 2024最新高效上采样模块EUCB助力yolov11有效涨点（全网独家创新）
Snu77的博客
11-09 3558
本文给大家带来的最新改进机制是2024最新高效上采样模块EUCB，EUCB 用于逐步上采样特征图，使其尺寸和分辨率与后续跳跃连接相匹配。这种对齐增强了不同层级和阶段间的信息融合（这个模块对于分割网络效果更佳），EUCB 首先进行上采样操作，将输入特征图的尺度放大 2 倍，然后应用 DWC，接着进行批归一化（BN）和 ReLU 激活，这些步骤能够在不增加显著计算开销的情况下高效地增强特征图。
YOLOv11改进 | 融合改进篇 | ASFYOLO配合RepViT助力yolov11有效涨点（教你如何融合改进机制创新点）
Snu77的博客
11-16 1644
本文给大家带来的最新改进机制是融合改进，最近有好几个读者和我反应单独的机制都能够涨点，一融合起来就掉点，这是大家不了解其中的原理(这也是为什么我每一个机制都给大家讲解一下原理，大家要明白其中的每个单独的机制涨点原理然后才能够更好的融合，有一些结构是有冲突的)，不知道哪些模块和那些模块融合起来才能够涨点。所以本文给大家带来的改进机制是融合的融合改进机制，同时本文的RepViT可以替换专栏内的任何一个主干。
YOLO模型涨点全攻略——从数据到部署的深度优化实践
最新发布
2401_86899206的博客
04-12 922
 YOLO 涨点技巧
DynamicConv
01-08
### DynamicConv in Neural Networks Architecture and Implementation DynamicConv, also known as dynamic convolution or deformable convolutions, represents an advanced technique designed to enhance the flexibility of convolutional layers within neural networks. Traditional convolution operations apply fixed kernels over input features, whereas DynamicConv allows these kernels' positions to adapt dynamically based on learned offsets. In terms of architecture design, DynamicConv introduces additional parameters that control how each kernel moves across spatial dimensions during feature extraction[^2]. This approach enables models to better capture geometric transformations present in data without requiring explicit augmentation techniques. For instance, when applied to image processing tasks such as object detection or segmentation, this mechanism can improve performance by accommodating variations like scale changes, rotations, and translations more effectively than standard methods do. For implementation purposes, integrating DynamicConv into existing frameworks typically involves modifying conventional convolution implementations so they support offset predictions alongside regular weight updates. A common practice includes adding extra branches responsible for generating per-pixel displacement vectors which guide where filters should focus their attention next while maintaining computational efficiency through efficient algorithms and hardware acceleration options provided by modern libraries. An example code snippet demonstrating part of a PyTorch-based DynamicConv layer could look something like: ```python import torch.nn.functional as F from torch import nn class DynamicConv(nn.Module): def __init__(self, in_channels, out_channels, kernel_size=3, stride=1, padding=1): super(DynamicConv, self).__init__() self.offset_conv = nn.Conv2d(in_channels=in_channels, out_channels=kernel_size * kernel_size * 2, # 2 coordinates per point kernel_size=kernel_size, stride=stride, padding=padding) self.regular_conv = nn.Conv2d(in_channels=in_channels, out_channels=out_channels, kernel_size=kernel_size, stride=stride, padding=padding) def forward(self, x): offset = self.offset_conv(x) output = F.grid_sample(input=x, grid=self._generate_grid(offset), align_corners=True) return self.regular_conv(output) @staticmethod def _generate_grid(offsets): batch_size, _, height, width = offsets.size() y_range = torch.linspace(-1, 1, steps=height).view(1, -1, 1, 1).expand(batch_size, -1, width, 1) x_range = torch.linspace(-1, 1, steps=width).view(1, 1, -1, 1).expand(batch_size, height, -1, 1) base_grid = torch.cat([x_range, y_range], dim=-1).to(offsets.device) return (base_grid + offsets.permute(0, 2, 3, 1)).contiguous() ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI小怪兽

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值