YOLOv5的Tricks | 【Trick4】参数重结构化（融合Conv+BatchNorm2d）

最新推荐文章于 2024-08-02 14:00:25 发布
最新推荐文章于 2024-08-02 14:00:25 发布
阅读量3.2k 收藏 41
点赞数 2
分类专栏： # 目标检测YOLOv5技巧汇总 文章标签： 深度学习 神经网络 机器学习 参数重结构化 yolov5
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44751294/article/details/125095552
版权
本文探讨YOLOv5中将卷积与批归一化融合的技巧，旨在加速模型推理，简化结构。通过参数重结构化，将BN层转换为1x1卷积，实现训练与推理的解耦。文章详细介绍了融合的概念、推导过程及PyTorch代码实现。
摘要由CSDN通过智能技术生成

如有错误，恳请指出。

文章目录

这篇文章是想要记录yolov5在模型搭建过程中的一个融合模块，就是把卷积与批归一化的参数进行融合，想卷积带有批归一化的性质，使得推理过程中可以加快模型推理速度，简化整个模型结构，实现训练与推理两个阶段的解耦。

1. 参数融合概念介绍

我最早接触参数重结构化这个词是看见了大佬丁霄汉发表的几篇论文：RepVGG，RepMLP，RepLKNet，这些构建新backbone的论文无一例外的全部使用了参数重结构化的思想。

RepVGG将3x3,1x1，identity分支的残差结果利用数学计算方法等价为一个3x3的卷积结构，实现训练与推断过程的解耦；RepMLP将局部的CNN先验信息加进了全连接层，使得其与MLP相结合等等。这里需要注意，重结构化层MLP结构也不是说变成Linear层，而是简化为1x1的卷积。（后续有机会把这几篇文章介绍一下，或者直接看大佬的知乎：https://www.zhihu.com/people/ding-xiao-yi-93/posts）

BN（批归一化）层常用于在卷积层之后，对feature maps进行归一化

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Clichong
关注
专栏目录
订阅专栏
改进YOLOv5：29.YOLOv5 结合 极简又强大的RepVGG 重参数化模型结构
包括YOLOv5、YOLOv7、YOLOv8等模型改进
09-07 1万+
目标检测科研Trick改进推荐 | 包括Backbone、Neck、Head、注意力机制、IoU损失函数、NMS、Loss计算方式、自注意力机制、数据增强部分、激活函数
轻量化YOLOv5改进 | 结合repghost结构冲参数化网络，实现轻量化和加速推理，
qq_44224801的博客
08-03 1323
在深度学习的应用中，卷积神经网络（CNN）已经成为了一种重要的模型结构。然而，由于CNN的计算量大，存储需求高，使得它在硬件设备上的部署和运行面临着挑战。为了解决这个问题，研究者们提出了各种各样的轻量级CNN，如MobileNet，ShuffleNet等。这些网络通过设计高效的模块和操作，如深度可分离卷积，通道混洗等，来减少计算量和存储需求。然而，这些网络往往需要牺牲一定的准确性。在这篇论文中，作者们提出了一种新的模块——RepGhost，它通过隐式地重用特征来进一步提高计算效率。
搜图、裁剪一步到位，有人用YOLOv5和CLIP做了一个找图神器，在线可试用
机器学习社区
01-03 1580
蛋酱给 Crop-CLIP 一个口令，就能自动搜图，还能帮忙裁剪出图片中的关键部分。经常找图的人都知道，根据检索关键词组寻找理想中的照片是件很麻烦的事情。打开搜索引擎或无版权图片网站，输入关键词，如果幸运的话，可能会在第一页或前 N 个检索结果中找到想要的图像。这种搜索方式仍然是基于图片标签进行的。自从 2021 年 1 月，OpenAI 推出了名为 CLIP 的神经网络，找图就进入了语义搜索时代。CLIP 建立在零样本迁移、自然语言监督、多模态学习的大量工作基础之上，因此它可以从自然语言
【有啥问啥】结构重参数化(Structural Re-parameterization)：一种提高深度学习模型推理效率的技术介绍
最新发布
Chauvin的博客
08-02 966
深度学习模型通常在训练阶段需要复杂的网络结构来达到高性能，但在推理阶段（即实际使用阶段）我们希望模型尽可能简单，以提高速度和减少资源消耗。结构重参数化（Structural Re-parameterization）技术就是为了解决这个问题而诞生的。今天我们将通过通俗易懂的解释和详细的代码示例，帮助你理解这种神奇的技术。结构重参数化技术通过在训练和推理阶段使用不同的网络结构，有效地平衡了模型性能和推理效率。在深度学习模型的实际应用中，尤其是在资源受限的环境中，这种技术可以大大提高模型的实用性和效率。
【RepVGG重参数化-Yolov5】
weixin_49117441的博客
01-20 2537
RepVGG重参数化-Yolov5Yolov5-记录RepVGG 代码复现 Yolov5-记录 #detect.py #Load model model = DetectMultiBackend(weights, device=device, dnn=dnn, data=data) for i in model.model.modules(): if type(i) is C3: i._switch_to_deploy() else: pass 在这里我们可以有多种选择来进
Fusing batch normalization and convolution in runtime
grllery的博客
10-11 231
Implementation in PyTorch # -*- coding:utf-8 -*- import torch import torch.nn as nn def fuse_conv_and_bn(conv, bn): # # init fusedconv = torch.nn.Conv2d( conv.in_channels, conv.out_channels, kernel_size=conv.kernel_siz
YOLOv5的Tricks | 【Trick1】关于激活函数Activation的改进汇总
Clichong
06-01 7198
如有错误，恳请指出。在yolov5模型搭建的过程实现中，额外实现了很多非常新奇有趣的激活函数，不再是的简单nn.ReLU等，所以这里使用这篇笔记来对这一些列的激活函数进行总结归纳。关于激活函数，在很早之前我写过一篇笔记介绍，笔记链接：激活函数与Loss函数求导，在这里主要介绍的是目标检测yolov5算法中实现的一些的激活函数，主要设计ReLU函数及其变体，包含ReLU，PReLU，RReLU，FReLU，Swish，Mish，Acon系列，Dynamic ReLU系列。ReLU相比之前的 Sigmoid/t
YOLOv5的Tricks | 【Trick9】模型剪枝处理与Pytorch实现的剪枝策略
Clichong
06-12 2577
如有错误，恳请指出。在yolov5项目中的torch_utils.py文件下，有prune这个函数，用来实现模型的剪枝处理。对模型裁剪，模型剪枝这方面之前没有接触到，这里用这篇笔记来学习记录一下这方面内容。在yolov5项目中提供了两个函数：sparsity与prune，前者可以返回模型的稀疏性，后者实现对模型的裁剪处理。对于模型稀疏性的判断，其实现的思路是遍历每一层模块的参数量，当当前层的参数值非0，表示当前的神经元是被激活的在网络的前向传播中是使用到的；而当当前层的参数值为0时，表示这个为0的参数所控制
yolov5之魔化修改
deep_love1314的博客
08-12 2615
yolov5魔改
目标检测算法——YOLOv5/YOLOv7改进之结合​RepVGG（速度飙升）
加勒比海带66——【YOLO魔法搭配&论文投稿咨询】
11-11 1万+
目标检测算法——YOLOv5/YOLOv7改进之结合​RepVGG（速度飙升）。在ImageNet上，据我们所知，RepVGG的top-1准确性达到80％以上，这是老模型首次实现该精度。 在NVIDIA 1080Ti GPU上，RepVGG模型的运行速度比ResNet-50快83％，比ResNet-101快101％，并且具有更高的精度，与诸如EfficientNet和RegNet的最新模型相比，RepVGG显示出良好的精度-速度权衡。效果对比如下图所示。
【目标检测实验系列】YOLOv5模型改进：融合混合注意力机制CBAM，关注通道和空间特征，助力模型高效涨点！（内含源代码，超详细改进代码流程）
弗兰-随风小欢的博客
01-03 2568
【目标检测实验系列】YOLOv5模型改进：融合混合注意力机制CBAM，关注通道和空间特征，助力模型高效涨点！（内含源代码，超详细改进代码流程）
YOLOv5-Lite：Repvgg重参化对YOLO工业落地的实验和思考
chenxiangrong的博客
09-18 6767
这一次的实验主要借鉴repvgg重参化的思想，将原有的3×3conv替换成Repvgg Block，为原有的YOLO模型涨点。 前言： 之前做了一次shufflenetv2与yolov5的组合，目的是为了适配arm系列芯片，让yolov5在端侧设备上也能达到实时。但在gpu或者npu方面也一直在尝试着实验，对此类实验的目的很明确，要求也不高，主要还是希望yolov5在保持原有精度的同时能够提速。 实验 这一次的模型主要还是借鉴repvgg重参化的思想，将原有的3×3conv替换成repvgg block，.
工程(八)——yolov5可见光+红外双模态融合(代码)
热门推荐
HUASHUDEYANJING的博客
08-10 2万+
目前，多模态数据融合主要有三种融合方式：前端融合(early-fusion)或数据水平融合(data-level fusion)、后端融合(late-fusion)或决策水平融合(decision-level fusion)和中间融合(intermediate-fusion)。前端融合将多个独立的融合成一个单一的特征向量，然后输入到机器学习分类器中。由于多模态数据的前端融合往往无法充分利用多个模态数据间的互补性，且前端融合的原始数据通常包含大量的冗余信息。......
【目标检测实验系列】YOLOv5创新点改进：融合高效轻量级网络结构GSConv，减轻模型复杂度的同时保持检测精度！（内含源代码，超详细改进代码流程）
弗兰-随风小欢的博客
12-20 5510
【目标检测实验系列】YOLOv5创新点改进：融合高效轻量级网络结构GSConv，减轻模型复杂度的同时保持检测精度！（内含源代码，超详细改进代码流程）
参数独立法进行图像融合
weixin_47360674的博客
06-23 383
参数独立法进行图像融合 1.设置图像融合的方法： Fusmeth = struct(‘name’,nameMETH,‘param’,paramMETH): nameMETH:UD_fusion(上下融合)、DU_fusion(下上融合)、LR_fusion(左右融合)、RL_fusion(右左融合)、UserDFF（用户自定义融合）。 paramMETH：自定义函数名称。 2.利用wfusmat函数调用设置的融合方法进行融合。 C = wfusmat(A,B,METHOD); 返回矩阵A和B按照METHOD
融合EfficientNet和YoloV5，非常实用的物体检测二阶段pipeline
AI公园
04-16 8390
点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”因公众号更改了推送规则，记得读完点“在看”~下次AI公园的新文章就能及时出现在您的订阅列表中作者：Mostafa Ibrahim编...
多传感器融合输入参数说明
syp19851024的博客
02-10 761
在数据经过融合算法之前，需要统一激光、毫米波、ME输入，经过参看SR408协议、ME协议、激光雷达协议，取各个传感器可得到的属性的并集，现得到统一输入结构体，即时空统一、聚类后，传入融合算法的数据格式。相应成员属性解释见下文。车头纵向为x轴，横向为y轴。  以此为依据定义如下结构体。结构体名为Input_Data，成员及各成员解释如下Id,                             ...
通过矩阵运算求出参数融合的最佳参数
江西师范大学-20届-吴悠
04-17 421
在做毕业设计时，求取到了一些图书的参数，然后打算通过模型融合来拟合用户的评分，我选取的办法是简单的参数融合。 整个分数矩阵记作X，则最佳系数为W，使得XW约等于Y 故对其进行矩阵运算 伪逆矩阵=（转置矩阵矩阵）求逆*转置矩阵 代码如下： # -*- coding: utf-8 -*- import numpy as np def main(): print('learning...')...
yolov5的Tricks
09-12
YOLOv5中使用的Tricks基本上和YOLOv4一致，并在此基础上引入了更多的工程优化逻辑。具体来说，YOLOv5使用了一些技巧来提高物体检测的准确性和效率。其中一些Tricks包括： 1. Mosaic数据增强：YOLOv5使用了Mosaic数据增强技术，将多个不同的训练图像拼接成一个大的训练图像，从而提高了模型的泛化能力和鲁棒性。 2. DropBlock正则化：YOLOv5使用了DropBlock正则化技术，通过随机丢弃一些特征图上的区域，来防止模型过拟合，并提高模型的泛化能力。 3. PANet特征融合：YOLOv5引入了PANet（Path Aggregation Network）特征融合模块，可以在不同尺度上融合特征，从而提高物体检测的准确性。 4. CSPDarknet53骨干网络：YOLOv5使用了CSPDarknet53作为骨干网络，该网络结构在YOLOv4的基础上进行了改进，提高了网络的表达能力和特征提取能力。 这些Tricks的使用使得YOLOv5在物体检测任务中取得了较好的性能，同时也提高了训练和推理的效率。
评论 7
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Clichong

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值