加速技巧---Conv BN的融合

最新推荐文章于 2025-02-26 20:16:19 发布
最新推荐文章于 2025-02-26 20:16:19 发布
阅读量6k 收藏 19
点赞数 6
分类专栏： 深度学习基础
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u012370185/article/details/98623718
版权

 网络完成训练后，在inference阶段，为了加速运算，通常将卷积层和BN层进行融合：

卷积层：

z = w * x + b

BN层：

y = \frac{x - E[x]}{\sqrt{var[x]}} \cdot \gamma + \beta

融合两层： 将Conv层的公式带入到BN层的公式

最低0.47元/天 解锁文章
TensorRT：Conv + BN 融合
微风❤水墨
09-16 1392
首先在复习一下BN公式：官方文档 4个参数：均值，方差，gamma，beta 再在复习一下conv公式： 一般是conv以后接的是BN，所以conv输入x,输出y; BN的输入就是y. 把y带入BN的计算公式： 所以，会得到conv+bn融合以后的权重w和偏置bias 有了上述公式，TensorRT C++ Api 搞起来： Tips: 需要注意的点是 Conv参数个数：Cout*Cin* Kernel* Kernel BN 参数个数：Cout 所以：...
YOLOv5的Tricks | 【Trick4】参数重结构化（融合Conv+BatchNorm2d）
Clichong
06-02 3380
如有错误，恳请指出。这篇文章是想要记录yolov5在模型搭建过程中的一个融合模块，就是把卷积与批归一化的参数进行融合，想卷积带有批归一化的性质，使得推理过程中可以加快模型推理速度，简化整个模型结构，实现训练与推理两个阶段的解耦。我最早接触参数重结构化这个词是看见了大佬丁霄汉发表的几篇论文：RepVGG，RepMLP，RepLKNet，这些构建新backbone的论文无一例外的全部使用了参数重结构化的思想。RepVGG将3x3,1x1，identity分支的残差结果利用数学计算方法等价为一个3x3的卷积结构，
conv与bn的融合
attackkk的博客
12-02 5597
背景 conv层和bn层的融合能够给网络提速。 先学习了这个博客的内容。学习时发现代码的实现和理论的介绍不太一样，遂深入研究了一番，修正了部分内容。 本文先介绍基本理论知识，然后解释代码。 理论知识 卷积操作 在介绍conv与bn的融合之前，需要基本了解卷积核的卷积操作。 卷积层的卷积操作 对于卷积层而言，若卷积层输入为FiF_iFi​，输出为FoF_oFo​，输入通道数为iii，输出通道数为jj...
深度学习中卷积层（Conv）、BN层（Batch Normalization）和 ReLU层（Rectified Linear Unit）的详细介绍
核电子探索者
02-26 1494
卷积层是深度学习中卷积神经网络（CNN）的核心组成部分。它通过对输入数据（如图像）进行卷积操作来提取特征。卷积操作是用一个卷积核（也称为滤波器）在输入数据上滑动，计算卷积核与输入数据局部区域的点积。例如，对于一个图像输入，卷积核可以看作是一个小型的窗口，它在图像上按照一定的步长（stride）移动，每次移动到一个位置就和该位置对应的像素值进行乘积求和操作，得到一个输出值，这些输出值构成了卷积后的特征图。
Conv层和BN层合并
梦坠凡尘
03-09 3813
在深度学习中，Conv + BN + Relu已成为标配， 那么在网络推理阶段，我们其实可以将Conv层和BN层进行合并，因为他们都是线性运算。 合并后就相当于少了BN层的计算，这样可以加快网络推理。 在数学计算上讲，合并的本质其实就是改变了卷积层的权重和偏置。 卷积层计算 BN层计算 其中 将BN层合并于Conv层后，Conv的计算方式如下： 即： 那么，我们令： 则： 可以看到，B...
【推理加速】博客翻译：利用融合conv和bn的方法加速模型
博观约取，厚积薄发
04-11 3401
这是量化和推理优化模型中常用技术。 今天我们将试着理解如何使我们的模型在推理上更快一些。 大量的网络使用 BN 来提高网络的泛化能力 。但是在推理阶段，Batch Normalization 被关闭，取代使用的是每个通道的均值和方差的近似值。最酷的是我们可以通过1x1卷积实现同样的行为。更好的是，我们可以把BN和前面的卷积合并。 Speeding up model with fusing batch normalization and convolution - LearnML.Today ..
卷积神经网络中的Conv层和BN层融合细节
qunsorber的博客
01-29 3142
输入数据的，BN 就是为了解决小批次输入数据的分布偏移而提出的，因此训练时需要BN层。而训练后的推理，是单样本输入，训练时 BN 的参数已经确定，这些参数相当于对前一层的特征图数据做一次线性变换，而卷积层也可以转化为对特征图的线性变换。因为将输入的样本数据或特征图，归一化后，改善了输入数据的分布，或者说。在训练时，卷积层和 BN 是两个模块，但是为什么训练时不能融合，而训练完成后，仅执行前向推理却可以融合？一张图可以解释，改善输入数据的分布，可以更容易找到模型参数w和b，从而加速模型收敛。
【深度学习】深度学习中的BN融合：提速小技巧
m0_51098495的博客
07-02 521
为了解决这个问题，我们可以在模型训练完成后，将BN层与前一层的参数融合，从而在推理时提高效率。完成后，将BN层的参数与前一层的卷积层或全连接层的参数融合的过程。这样，融合后的层将包含原始层和BN层的效果，而不再需要单独的BN层。通过将BN层的参数与前一层融合，我们可以减少推理时的计算量，同时保持模型性能。：在RNN中，可以在时间步的更新中应用BN融合，以减少每个时间步的计算量。这样，融合后的卷积层可以直接输出归一化后的结果，无需再进行BN操作。：LSTM的门控单元中可以应用BN融合，以提高序列处理的速度。
matlab精度检验代码-Caffe-Computation-Graph-Optimization:Caffe计算图优化
05-22
：我们不会讨论层重建，例如conv-bn-relu层。 在此存储库中，无需编写任何代码即可加速模型。 ** ：第一个卷积层必须保持pad==0 ，否则平均值减法的融合可能会导致性能损失。 但是比例因子可以自由地在第一卷积层中...
MATLAB算法实战应用案例精讲-【深度学习】多尺度特征融合-目标检测（论文篇五）
qq_36130719的博客
04-15 2082
检测的图像，首先设置输入网络大小，然后将滑动窗口按照一定步长对图像进行滑动，微小的卷积神经网络，其使用卷积核在卷积神经网络中对输入图像信息进行卷积处理，传统行人检测技术进行分析，然后介绍基于深度学习行人检测算法，为后续行人检测。出，能够很好的描述行人的边缘，因此广泛应用于行人检测。的静态图像，往往采用梯度直方图方法获取行人图像的局部特征信息，然后计算所有。个单元格的特征将以不同的结果出现在最后的向量中，所有的小单元特征信息将构成。目的成果，使得行人检测检测技术成为基于深度学习目标检测领域的研究热点。
结构重参数化详解。（bn+conv）与（conv+bn）的融合
qq_41726670的博客
08-02 1974
将conv1的权重和conv2的权重相加即可合并为一个卷积层，如果kernel大小不一致，在小的kernel周围填充一圈圈的0，直到大小一致，即可完成合并。复习一下conv和bn的公式，其中mean是平均值，var是方差，eps是避免分母为0，W、B是需要学习的参数。那么这就是结构重参数化原理，结构重参数化不仅可以合并水平方向上的分支，也可以合并垂直方向上的操作。的结构，在训练结束后，将多个结构的权重合并，从而在推理时采用另外一种更。为1，并且值为1的卷积操作，那么同样也可以被合并。即融合后conv的W。
模型部署——融合BN和Conv层
xiaohu的博客
09-14 1461
今天我们将尝试了解如何使我们的模型在推理上更快一点。使用 Batch Normalization 作为提高泛化能力的一种方式浪费了大量的网络。但是在推理过程中，批量归一化被关闭，而是使用近似的每通道均值和方差。很酷的是，我们可以通过 1x1 卷积实现相同的行为。更好的是，我们可以将它与前面的卷积合并。
conv+bn算子合并：原理、推导与实现
wulele2的博客
02-16 802
本文将详细介绍Conv+BN合并的原理、数学推导以及实现方法，并通过测试用例验证其正确性。通过将卷积层和批量归一化层合并为一个等效的卷积操作，我们可以在推理阶段减少计算量，从而提升模型的推理效率。本文详细介绍了合并的数学原理，并提供了一个完整的PyTorch实现和测试用例。希望本文能帮助读者更好地理解Conv+BN合并的原理和应用。
bn+conv融合，bn在前conv在后
gggi520的博客
05-13 228
这里还有个问题如果pad不为0的情况，那融合后的bias就不是Wconv*Bbn+Bconv，而是后面要接一个add，值为。就是后接个(t_beta - t_running_mean * t)过W的conv后的值。
深入理解BN、合并conv+BN公式推导
独行侠
03-20 2829
https://www.cnblogs.com/guoyaohua/p/8724433.html
CONV BN融合实验
qq_40268672的博客
09-29 711
以下代码是对conv+bn的融合，这里，均值、方差都是对batchsize,height,width这三个维度求的，因此mean,var,γ,β都是一个N维向量，其中N为卷积层输出特征的通道数mean,var,\gamma,\beta都是一个N维向量，其中N为卷积层输出特征的通道数mean,var,γ,β都是一个N维向量，其中N为卷积层输出特征的通道数 import numpy as np import torch import torch.nn as nn import torch.nn.function
在模型推理时合并BN和Conv层
liguiyuan的博客
07-06 1686
在模型推理时合并BN和Conv层，能够简化网络架构，起到加速模型推理的作用，这里简单讲解一下如何合并及其代码
融合bn层和scale层。
weixin_38378417的博客
03-25 535
算法几乎从github上搬运，即https://github.com/NHZlX/Merge_bn_Caffe 但是增加了两句话，减少模型部分参数 #coding=utf-8 import google.protobuf.text_format import os.path as osp import sys import copy import os from sys import pat...
Conv2D + batch normalization (BN) 融合
LuchangLi 的专栏
04-08 3628
基本原理：利用卷积的线性性，将bn融合到conv2d的kernel和附加一个biasadd conv2d原理 https://towardsdatascience.com/conv2d-to-finally-understand-what-happens-in-the-forward-pass-1bbaafb0b148 conv2d+bn融合 bn的gamma, betta, mean, var都是一个维度跟conv2d output channel维数相同的向量 ...
自动识别花卉的tiny-yolo算法
最新发布
04-27
- 添加批量归一化层（BN）：可使mAP提升2%以上[^3] #### 4. 部署优化方案 | 优化方法 | 推理速度提升 | mAP变化 | |----------------|--------------|-----------| | FP16量化 | 35% | -0.8% | | 层融合 | 22% | 无...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值