【卷积网络】DO-Conv: Depthwise Over-parameterized Convolutional Layer论文速读笔记

最新推荐文章于 2024-07-24 10:53:21 发布
最新推荐文章于 2024-07-24 10:53:21 发布
阅读量5.1k 收藏 29
点赞数 3
文章标签： 深度学习 计算机视觉 卷积神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43004066/article/details/121721998
版权

文章目录

基本信息

论文：https://arxiv.org/pdf/2006.12030.pdf
代码：https://github.com/yangyanli/DO-Conv

核心逻辑

基本卷积操作
上图是卷积核在一个滑动窗口区域上的一次标准卷积操作，注意这里没有滑动的过程，就是一次卷积操作。

其中M和N是卷积核在两个spatial方向上的大小，比如我们一般使用3*3卷积核，那这里就是M=3和N=3，这个图片就是指我们在Cin * 3 * 3的原图P上做了一次卷积操作，得到了1 * Cout的结果。（不过图中显示的是M * N =4，一样的道理）
另两个维度Cin和Cout是输入的维度数和输出的维度数

图中的W是weight的缩写，指卷积核的权重张量；P是patch的缩写，指一次滑动窗口的那一小片区域；O是Output的缩写，指本次卷积操作的输出

如果把W看成两层图的话
把W的第一层跟P对应位置相乘并相加得到O向量的第一个数
把W的第二层跟P对应位置相乘并相加得到O向量的第二个数
在这里插入图片描述
上图是卷积核在一个滑动窗口区域上的一次深度卷积操作，不了解深度卷积的可以去搜索一下。参数跟上边一样，不同的是，这次的卷积操作是：
依然把W看做两层
第一层的黄色区域有M * N 个值，跟P的黄色区域的M * N 个值相乘并相加，得到O的黄色区域的一个值
第二层的黄色区域有M * N 个值，跟P的黄色区域的M * N 个值相乘并相加，得到O的黄色区域的另一个值
以此类推得到蓝色和绿色的各两个值
在这里插入图片描述
作者尝试把标准卷积操作和深度卷积结合到一起，上图是Do-Conv卷积的两种形式
图a是先进行一次深度卷积得到Cin和Dmul，然后紧接着进行标准卷积得到最终的O向量
图b则是把深度卷积核的参数和标准卷积核的参数直接乘到一起，然后再跟原图的输入进行一次标准卷积，也能得到相同的结果
不过这两种方式的计算量不一样
在这里插入图片描述

经过上图对比之后，最终还是选用了图b的方式
作者在训练的时候更新两个卷积核的参数，然后在推理的时候把这些参数先按照图b的形式变成一个标准卷积的参数保存下来，然后根据这个参数进行推理。理论上推理时的计算量跟标准卷积相同，并不会因为增加了一个深度卷积核就变慢
在这里插入图片描述
除了把标准卷积加一个深度卷积操作之外，深度卷积本身也可以加上一层深度卷积
图中的D表示额外加上的深度卷积核，W表示原本的深度卷积核
图a是先用额外的深度卷积核进行深度卷积之后，再经过一次原本的深度卷积
图b是把两个深度卷积核合并起来
这里同样是在训练的时候得到两个深度卷积核的参数，然后在推理的时候把它们合并起来，并不会增加推理时的计算开销

优势

因为训练时多了一次深度卷积，所以理论上可以加快训练，并收敛到更好的参数组合
之后的实验也证明了这一点，加入了一次深度卷积后，尽管推理时参数量没有变化，网络依然得到了更高的分类精度

qq_43004066
关注
  • 3
    点赞
  • 踩
  • 29
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
YoloV8改进策略：卷积改进|DOConv轻量卷积，即插即用|适用各种场景
m0_47867638的博客
04-22 1190
本文使用DOConv卷积，替换YoloV8的常规卷积，轻量高效，即插即用！改进方法非常简单。DO-Conv（Depthwise Over-parameterized Convolutional Layer）是一种深度过参数化的卷积层，用于提高卷积神经网络（CNN）的性能。它的核心思想是在训练阶段使用额外的深度卷积来增强卷积层，其中每个输入通道与不同的二维核进行卷积。这两个卷积的组合构成了一个过度参数化，因为它增加了可学习的参数，而结果的线性操作可以用单个卷积层来表示。
DO-Conv:深度超参数化卷积层
03-20
DO-Conv：深度超参数化卷积层 由金明曹，创建，孙铭超，， ，，和。 介绍 DO-Conv是深度过参数化的卷积层，可在训练阶段用作CNN中常规卷积层的替代，以实现更高的精度。在推理阶段，DO-Conv可以融合到常规卷积层中，从而导致计算量与常规卷积层的计算量完全相同。 有关更多详细信息，请参见的，其中我们展示了DO-Conv在各种基准数据集/任务上的优势。 我们高度欢迎的问题 我们非常欢迎与DO-Conv相关的问题，而不是电子邮件，而不是电子邮件。 此外，如果在发行中提供最少的可复制示例代码，那将是很好的。 ImageNet分类性能 我们以的为基准。基线中的设置已经过调整，以适应基线，并且在切换到DO-Conv期间不会被触摸。换句话说，DO-Conv是唯一且仅在基线上进行更改的工具，并且没有进行任何超参数调整来支持DO-Conv。我们认为GluonCV具有很高的重现性，但是，为了尽可
DO-Conv 涨点模块
红叶谷 wsp_1138886114的博客
04-01 6557
文章目录0.动机1.传统的卷积和Depthwise卷积2.Depthwise over-parameterized卷积（DO-Conv）3.DO-DConv和DO-GConv4.在视觉任务中使用Depthwise over-parameterized卷积5.总结 DO-Conv无痛涨点：使用over-parameterized卷积层提高CNN性能 DO-Conv: Depthwise Over-parameterized Convolutional Layer 论文： https://arxiv.org/
doconv
03-18
doconv 该工具提供了一组功能，用于将“ Microsoft Word”或“ Microsoft PowerPoint”文档转换为“ PDF”格式，以及将其转换为缩略图形式的图像。为了正常工作，必须在计算机上安装“ LibreOffice”，可能还需要安装“ python”和“ Microsoft Word”。 安装 您可以使用以下命令从GitHub安装最新版本： # install.packages("devtools") devtools :: install_github( " ardata-fr/doconv " ) 例子 library( doconv ) 从文件生成缩略图 您可以通过使用to_miniature来生成图钉作为图像： docx_file <- system.file( package = " doconv " , " doc-examples/bookdo
即插即用模块之DO-Conv（深度过度参数化卷积层）详解
weixin_47151388的博客
04-12 1451
卷积层是卷积神经网络(cnn)的核心组成部分。在本文中，我们建议用额外的深度卷积来增强卷积层，其中每个输入通道与不同的二维核进行卷积。这两个卷积的组合构成了一个过度参数化，因为它增加了可学习的参数，而结果的线性操作可以用单个卷积层来表示。我们把这个深度过度参数化的卷积层称为DO-Conv。我们通过大量的实验表明，仅仅用DO-Conv层替换传统的卷积层就可以提高cnn在许多经典视觉任务上的性能，例如图像分类、检测和分割。
基于darknet框架实现DepthwiseConvolutional层
Chen_yingpeng的博客
09-17 4511
基于darknet框架实现DepthwiseConvolutional     具体详见：https://github.com/ChenYingpeng/darknet-mobilenet ，里面包含mobilenet v1 的配置文件以及模型，在Imagenet上测试的top1：72.03%, top5:90.514%. 一、添加depthwise_convolutional_layer ...
modulated-deform-conv:变形卷积2D 3D DeformableConvolution DeformConv调制火炬CUDA
04-19
该项目是一个 Pytorch C++ and CUDA Extension,采用C++和Cuda实现了deformable-conv2d,modulated-deformable-conv2d,deformable-conv3d,modulated-deformable-conv3d的forward function和backward function,并在...
pytorch-deform-conv：变形卷积的PyTorch实现
02-05
可变形卷积的PyTorch实现 魏欧阳@巴斯德研究所 感谢Felix Lau的Keras / TensorFlow实现： （ ） 待办事项清单 在pytorch中实现偏移量映射 所有测试通过 变形卷积模块 微调可变形卷积模块 大规模mnist演示 使用...
tf-deformable-conv-layer:可变形卷积层的TensorFlow实现
05-06
可变形卷积网络。 arXiv [cs.CV]。 arXiv。 该代码只能在。 旋转训练图 采样地点 基本用法 DeformableConvLayer是自定义的Keras图层，因此您可以像其他任何标准图层（例如Dense ， Conv2D一样使用它。 这是一个...
image-conv:用于图像卷积的Rust库
04-18
[GitHub Pull Requests]（ ） 用于图像卷积的高性能Rust库。一些示例输出原来的 索贝尔X 索贝尔 沙尔X 沙尔 拉普拉斯式中位数 高斯型降噪 用法示例应用水平Sobel滤波器： use image_conv :: conv; use image_conv ::...
doconv:带有打包在Docker映像中的简单HTTP API的文档转换服务
03-16
多康夫 带有简单HTTP API的文档转换服务打包在Docker映像中。 由LibreOffice和unoconv提供支持。 图书馆 选中此软件包可轻松使用Doconv服务。 用于node.js和浏览器的Javascript API客户端。 运行服务 docker run -p 3000:3000 ghcr.io/alexxnb/doconv 快速测试 将浏览器指向http://localhost:3000 ，您将看到一个表格，您可以在其中上传任何文档并下载所选格式的转换文件。 简单的客户示例 您可以创建一个表单，该表单会将文件发送到服务并下载生成的PDF文件。 < form action =" http://localhost:3000/convert/pdf " method =" POST " enctype =" multipart/form-data " > < in
YOLOv7改进结构系列：最新结合DO-DConv卷积提高性能涨点，打造高性能检测器
包括YOLOv5、YOLOv7、YOLOv8等模型改进
10-13 9530
YOLOv7、YOLOv5 结合 Slim范式+DO-DConv卷积 ，提高 CNN 在许多经典视觉任务（例如目标检测）上的性能
计算机视觉知识点-Depth Wise Separable Convolutional
蓝色的杯子
06-09 939
深度可分离卷积在谷歌的mobilenet和xception中得到的应用,比常规的卷积计算量少,提高了推理速度,并且可以抵抗overfitting. 那么计算量减少是如何做到的,或者说计算量的减少是指什么?今天我们来推导一下 现在推导一下一个标准卷积做了多少计算 计算输入数据的分辨率是DfXDf, 通道有M个,例如RGB3个通道 假设有N个filter, 每个filter的尺寸为DkXDkXM, 输出的尺寸为 DpXDPXN, 那么为了实现上图这个动作,需要的计算量为 DpXDpXNXDkXDk.
深度学习中的20种卷积
人无远虑，必有近忧
07-13 1万+
大多数的卷积结构都是在精度-参数量-计算量这三个维度上进行不同的侧重取舍。两个矛盾：追求计算效率的卷积结构由于计算预算较低，无论是限制卷积层的深度，还是限制了卷积的宽度，不可避免地会导致性能的下降。追求精度提升的卷积结构由于其引入过多的卷积运算或其他额外的操作（如注意力），势必会增大内存或计算开销，从而影响模型的容量和整体的训练或推理速度。一个设计的原则就是我们如何在不增加额外参数量的情况下，尽可能利用有效的信息或者从降低冗余空间信息的角度出发，来提高模型的计算效率和卷积提取特征的能力。
一文看尽深度学习中的20种卷积（附源码整理和论文解读）
浩瀚之水的专栏
09-29 3054
引言 卷积，是卷积神经网络中最重要的组件之一。不同的卷积结构有着不一样的功能，但本质上都是用于提取特征。比如，在传统图像处理中，人们通过设定不同的算子来提取诸如边缘、水平、垂直等固定的特征。而在卷积神经网络中，仅需要随机初始化一个固定卷积核大小的滤波器，并通过诸如反向传播的技术来实现卷积核参数的自动更新即可。其中，浅层的滤波器对诸如点、线、面等底层特征比较敏感，深层的滤波器则可以用于提取更加抽象的高级语义特征，以完成从低级特征到高级特征的映射。本文将从背景、原理、特性及改进四个维度分别梳理10篇影响力深远
深度学习算法实践11---卷积神经网络（CNN）之卷积操作
Yt7589的专栏
08-29 1万+
卷积神经网络（CNN）主要特性有：稀疏连接和权值共享、卷积操作、池化。在前一篇博文中我们已经讨论了稀疏连接和权值共享，在本篇博文中，我们将介绍卷积操作和池化。正是由于对图像进行卷积操作，卷积神经网络才得以其名，可见卷积操作是其核心。在这篇博文中，我们将讨论卷积操作的实现其及物理含义。
改进YOLOv5/YOLOv7——魔改YOLOv5/YOLOv7提升检测精度（涨点必备）
热门推荐
加勒比海带66——【YOLO魔法搭配&论文投稿咨询】
04-10 5万+
🎄🎄魔改YOLOv5/YOLOv7目标检测算法——各位小伙伴可根据自身研究方向及专业领域自主搭配各类创新新颖且行之有效的网络结构，以此实现论文实验高效涨点。主要包括主干网络改进、轻量化网络、注意力机制、检测头部改进、空间金字塔池化、损失函数及NMS改进、视觉顶会创新点改进以及算法训练相关项目等等。
基于深度学习的复杂策略学习
weixin_42605076的博客
07-24 548
基于深度学习的复杂策略学习（Complex Strategy Learning）是通过深度学习技术，特别是强化学习和模仿学习，来开发和优化解决复杂任务的策略。这类技术广泛应用于自动驾驶、游戏AI、机器人控制和金融交易等领域。
Python编程、机器学习与深度学习技术
最新发布
2301_78164062的博客
07-24 488
Python编程、机器学习与深度学习技术
eca-net: efficient channel attention for deep convolutional neural networks
09-09
### 回答1： ECA-Net是一种用于深度卷积神经网络的高效通道注意力机制，可以提高模型的性能和效率。它通过对每个通道的特征图进行加权，使得网络可以更好地学习到重要的特征。ECA-Net的设计简单，易于实现，并且可以与各种深度卷积神经网络结构相结合使用。 ### 回答2： ECA-Net是一种用于深度卷积神经网络的高效通道注意力机制。 ECA-Net通过提出一种名为"Efficient Channel Attention"（ECA）的注意力机制，来增强深度卷积神经网络的性能。通道注意力是一种用于自适应调整不同通道的特征响应权重的机制，有助于网络更好地理解和利用输入数据的特征表示。 相比于以往的注意力机制，ECA-Net采用了一种高效且可扩展的方式来计算通道注意力。它不需要生成任何中间的注意力映射，而是通过利用自适应全局平均池化运算直接计算出通道注意力权重。这种方法极大地降低了计算和存储开销，使得ECA-Net在实际应用中更具实用性。 在进行通道注意力计算时，ECA-Net引入了两个重要的参数：G和K。其中，G表示每个通道注意力的计算要考虑的特征图的大小；K是用于精细控制计算量和模型性能之间平衡的超参数。 ECA-Net在各种视觉任务中的实验结果表明，在相同的模型结构和计算资源下，它能够显著提升网络的性能。ECA-Net对不同层级的特征表示都有显著的改进，能够更好地捕捉不同特征之间的关联和重要性。 总之，ECA-Net提供了一种高效并且可扩展的通道注意力机制，可以有效提升深度卷积神经网络的性能。它在计算和存储开销上的优势使得它成为一个非常有价值的工具，可在各种计算资源受限的应用中广泛应用。 ### 回答3： "eca-net: efficient channel attention for deep convolutional neural networks" 是一种用于深度卷积神经网络的高效通道注意力模块。这一模块旨在提高网络对不同通道（特征）之间的关联性的理解能力，以提升网络性能。 该方法通过引入了一个新的注意力机制来实现高效的通道注意力。传统的通道注意力机制通常是基于全局池化操作来计算通道之间的关联性，这种方法需要较高的计算成本。而ECA-Net则通过引入一个参数化的卷积核来计算通道之间的关联性，可以显著减少计算量。 具体来说，ECA-Net使用了一维自适应卷积（adaptive convolution）来计算通道注意力。自适应卷积核根据通道特征的统计信息来调整自身的权重，从而自适应地计算每个通道的注意力权重。这样就可以根据每个通道的信息贡献度来调整其权重，提高网络的泛化能力和性能。 ECA-Net在各种图像分类任务中进行了实验证明了其有效性。实验结果显示，ECA-Net在相同计算预算下，相比其他通道注意力方法，可以获得更高的分类精度。同时，ECA-Net还具有较少的额外计算成本和模型大小，使得其在实际应用中更加高效。 总结而言，"eca-net: efficient channel attention for deep convolutional neural networks" 提出了一种高效通道注意力方法，通过引入自适应卷积核来计算通道注意力，从而提高了深度卷积神经网络的性能。这一方法在实验中取得了良好的效果，并且具有较少的计算成本和模型大小。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值