CSPNet（CrossStagePartialNetworks）

已于 2022-02-17 10:03:37 修改
阅读量2.2k 收藏
点赞数 2
分类专栏： 读论文笔记 深度学习 文章标签： 深度学习 计算机视觉 人工智能
于 2022-02-17 10:02:01 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Bolly_He/article/details/122968435
版权

目录

1、论文思想

2、论文方法

论文：原论文

1、论文思想

这篇论文主要是解决，网络计算量大的问题

提出一种新的特征融合的结构，来降低计算量同时又可以保持甚至提升精度。

2、论文方法

CSP模块结构

如上图左图是原始的Densenet,右是CSPDensenet.

CSP 的核心思想就是将输入按channel切分成两个part,两个分支具体的实现方式可以自己设计，我理解是其中一个分支可以经过复杂的结构（Densenet,Resnet..），另一个分支不动或简单卷积，将两个分支的结果concat

CSPNet: Cross Stage Partial Network
新兴IT民工的专栏
11-04 2174
也就是浅层的特征图可以通过shortcut的方式正向传播到后面的层，同样，在反向传播的同时，后面层出来的梯度会通过shortcut传播到千层。也就是说在反向传播的时候，相当于第k层的梯度会传播到k-1，k-2，一直到最前面的第一层。从我自己对这个结构的理解来说，我认为CSP的作用在于可以将一部分的特征图直接拼接到过去，不需要通过densenet到反向传播来进行更新，这样就可以节省这部分权重参数的更新，从而节省计算量(进入densenet的input channel少了，那么对应卷积层的参数也会减少)。
【深度学习】YOLOv5 中使用的 CSPNet 是怎么回事
热门推荐
q742971636的博客
03-25 1万+
论文：https://arxiv.org/pdf/1911.11929.pdf CSPNet全称是Cross Stage Partial Network，主要从一个比较特殊的角度切入，能够在降低20%计算量的情况下保持甚至提高CNN的能力。 import torch import torch.nn as nn def autopad(k, p=None): # kernel, padding # Pad to 'same' if p is None: p = k //
Cross Stage Partial Network(CSPNet)
寂寞的小乞丐
10-15 5273
Cross Stage Partial Network(CSPNet) 一. 论文简介 降低计算量，同时保持或提升精度 主要做的贡献如下(可能之前有人已提出)： 提出一种思想，特征融合方式(降低计算量的同时保证精度) 二. 模块详解 2.1 论文思路简介 论文其实非常简单，和shufflenetV2中的InvertedResidual基本差不多，只不过这是一种思想，可以扩展到FPN、De...
Cross Stage Partial Network
qq_34425255的博客
10-01 368
设计CSPNet的主要目的是使该体系结构能够实现更丰富的梯度组合，同时减少计算量。翻译为中文：跨阶段局部网络。
探索CrossStagePartial Networks：深度学习的新篇章
gitblog_00009的博客
04-11 688
探索CrossStagePartial Networks：深度学习的新篇章 去发现同类优质开源项目:https://gitcode.com/ 在计算机视觉领域，深度学习模型的发展日新月异，其中 CrossStagePartial Networks（CSPNets）是一个值得关注的创新项目。这个开源项目由WongKinYiu贡献在GitCode平台上，其主要目标是优化神经网络结构，提高模型的性能和效...
YOLOV4之 Cross Stage Partial，＜CSP Darknet53＞
Bismarckczy的博客
03-14 1319
CSP Darknet
CSPNet论文笔记
sunmingyang1987的博客
02-07 839
论文地址：https://arxiv.org/pdf/1911.11929.pdf 开源代码：https://github.com/WongKinYiu/CrossStagePartialNetworks 作者提出Cross Stage Partial Network (CSPNet)来降低网络架构所需的算力。神经网络的计算量大很大程度上是由于在网络优化过程中出现的重复梯度信息导致的。 作者提出的网络架构可以在降低约20%准确度的情况下维持和原网络架构相同甚至高于原网络架构的准确度。CSPNet这种架构思想
CSPNET: A NEW BACKBONE THAT CAN ENHANCE LEARNING CAPABILITY OF CNN
abrams90的专栏
06-28 1138
Abstract 神经网络使得在像目标检测这样的计算机视觉任务中取得了SOTA的效果。然而，这巨大的成功十分依赖计算资源的消费，这阻碍了使用廉价芯片的用户使用先进的技术。本文我们提出了Cross Stage Partial Network（CSPNet），从网络结构的角度缓解之前的工作依赖大量前向计算的问题。我们将问题归结为网络优化过程中梯度重复的问题。我们提出的方法从网络从始至终的不同阶段通过考虑到梯度变化的特征图整合，在我们的实验中，模型在ImageNet数据集降低了20%的计算量，并...
CVPR2020 CSPNet: A New Backbone that can Enhance Learning Capability of CNN
Q1u1NG的博客
11-19 1623
CVPR2020 CSPNet: A New Backbone that can Enhance Learning Capability of CNN论文翻译摘要1.介绍2.相关工作3.方法3.1 Cross Stage Partial Network3.2 Exact Fusion Model4.实验4.1 实现细节4.2 消融实验4.3 ImageNet图像分类4.4 MS COCO目标检测4.5 分析5.结论参考文献 论文地址：CSPNet: A New Backbone that can Enhan
增强CNN学习能力的Backbone:CSPNet
pprp的博客
03-25 7383
CSPNet全称是Cross Stage Partial Network，主要从一个比较特殊的角度切入，能够在降低20%计算量的情况下保持甚至提高CNN的能力。CSPNet开源了一部分cfg文件，其中一部分cfg可以直接使用AlexeyAB版Darknet还有ultralytics的yolov3运行。 1. 简介 Cross Stage Partial Network(CSPNet)就是从网络...
什么是CSP (Cross Stage Partial) 结构
weixin_45422672的博客
01-23 749
CSP (Cross Stage Partial) 结构是一种在神经网络设计中用于提高模型效率和性能的技术，特别是在目标检测任务中。它最早是在 YOLOv4 中被引入的。CSP 的主要思想是通过在不同的网络阶段之间共享特征图来减少计算量和内存消耗，同时保持或提升模型的准确性。
Yolo-v4的CSPNet(Cross Stage Partial Network)
gwy2018的博客
01-12 3191
CSPNet介绍： 计算机视觉的任务很依赖昂贵的计算资源，提出了跨阶段局部网络（CSPNet）解决以往工作中需要大量推理计算的问题。CSPNet易于实现，并且足够通用，可以处理基于ResNet、ResNeXt和DenseNet的体系结构。 主要的作用：提高CNN的学习能力；减少计算时间；减少内存。 每一个block按照特征图的channel维度拆分成两部分； 一部分正常走网络，一部分直接concat到这个block的输出。 详细介绍参考博客 CSPNet论文，发表于CVPR2019 ...
论文翻译：Scaled-YOLOv4: Scaling Cross Stage Partial Network
Ai_Smith的博客
11-18 1753
大体翻译了下，个别地方原文看的我就迷糊，为了保持原样，就保留了。 Scaled-YOLOv4: Scaling Cross Stage Partial Network 摘要 ____我们展示了基于CSP方法的YOLOv4对象检测神经网络，保持最佳速度和准确性同时，可向上下缩放，且适用于小型和大型网络。我们提出了一种网络缩放方法，该方法不仅可以修改深度、宽度、分辨率，还可以修改网络的结构。 YOLOv4-large模型达到了SOTA结果：在Tesla V100上，15 FPS，MS COCO数据集达到55.4
Scaled-YOLOv4: Scaling Cross Stage Partial Network 论文翻译
Q1u1NG的博客
11-18 3728
摘要 实验结果表明，基于CSP方法的YOLOv4目标检测神经网络在保持最优速度和准确率的前提下，具有向上/向下可伸缩性，可用于不同大小的网络。我们提出了一种网络缩放方法，它不仅改变深度、宽度、分辨率，而且还改变网络的结构。YOLOv4-large模型实现了SOTA的结果：在Tesla V100上，以15 FPS的速度对MS COCO数据集实现了55.4% AP (73.3% AP50)，而伴随着TTA，YOLOv4-large实现了55.8% AP (73.2 AP50)。YOLOv4-tiny模型在RTX
Scaled-YOLOv4: Scaling Cross Stage Partial Network
一只大憨憨的博客
11-23 1141
我们展示了基于CSP方法的YOLOv4对象检测神经网络，可以上下缩放，并且适用于小型和大型网络，同时保持最佳的速度和准确性。我们提出了一种网络缩放方法，该方法不仅可以修改深度，宽度，分辨率，还可以修改网络的结构。OLOv4-large模型达到了最先进的结果：在Tesla V100上以15 FPS的速度，MS COCO数据集的AP为55.4％（AP50为73.3％），而随着测试时间的增加，YOLOv4-large的模型达到55.8％ AP（73.2 AP50）。据我们所知，这是目前所有已发表作品中COCO数据
Scaled-YOLOv4: Scaling Cross Stage Partial Network 论文学习
calvinpaean的博客
01-19 1021
Abstract 作者证明基于 CSP 方法的 YOLOv4 目标检测网络可以进行放大和缩小，在保证准确率和训练速度的同时应用在大网络和小网络上。作者提出了一个网络缩放方法，不仅修改深度、宽度和分辨率，也可修改网络结构。YOLOv4-large 模型取得了 state of the art 的效果：在 MS COCO 数据集上 55.4%55.4\%55.4% 的 AP（73.3%73.3\%73.3% AP50），在 Tesla V100 上的速度是15 FPS。据我们所知，这是目前在 COCO 数据集上
CSPNet
Bruce_0712的博客
09-29 1907
YOLOv4中的backbone使用的是CSPNET,还是得到了AlexAB大神的认可的。同时，轻量化以及神经网络表达能力一直是研究的热点，本文也是在此范畴。因此本文对其原始论文进行解读。如有任何问题或建议，请在文末留言。 神经网络使用最先进的方法，在对象检测之类的计算机视觉任务上实现令人难以置信的结果。 然而，这种成功极大地依赖于昂贵的计算资源，这不便于人们在廉价设备使用最先进的技术。 在本文中，我们提出了跨阶段局部网络（CSPNet：Cross Stage Partial Network），以缓解以前
深入浅出之CSP 瓶颈模块演变（YOLO）
浩瀚之水的专栏
01-21 1769
CSP（Cross Stage Partial）瓶颈模块是一种常用于计算机视觉任务的卷积神经网络（CNN）组件，尤其在目标检测算法中表现出色。
【网络结构设计】6、CSPNet | 一种加强 CNN 模型学习能力的主干网络
呆呆的猫的博客
09-09 2201
为了实现更好的效果，深度神经网络一直在往更深和更宽的方向发展，但也带来了一系列计算量的上升，难以在边端小型设备使用。由于这里 transition layer 使用的是 concat 方法，而 concat 方法的梯度传播会分开进行，就是还是会传递到对应的来源处去，所以经过密集 block 和未经过密集 block 的特征是分别优化的，梯度单独更新。Cross Stage Partial Network (CSPNet) 的主要设计思想：让网络中的梯度进行丰富的结合，降低冗余，减少计算量。
cspnet
最新发布
03-16
CSPNet（Cross Stage Partial Network）是一种用于计算机视觉任务的深度学习架构设计方法，主要目的是通过优化网络结构来降低计算复杂度并提高模型效率。以下是关于 CSPNet 的详细介绍： ### 什么是 CSPNet？ CSPNet 是一种旨在减少冗余梯度信息的设计理念，它通过部分特征重用来实现更高效的卷积神经网络训练过程[^1]。具体来说，CSPNet 将输入划分为两个部分：一部分直接传递到下一层，另一部分经过复杂的卷积操作后再与前一部分合并。这种机制显著减少了计算量和内存消耗。 ### CSPNet 的核心思想 CSPNet 的核心在于跨阶段的部分连接策略。这种方法可以有效缓解传统残差网络中存在的梯度重复问题，从而提升训练速度并降低资源需求。其基本原理如下： - 输入被分割成两部分； - 只有一部分会经历完整的卷积运算； - 这两部分最终会被重新组合在一起形成输出。 这一设计理念特别适合于实时应用场景下的目标检测算法，例如 YOLOv4 中就采用了 CSPNet 来构建基础骨干网络以增强其实时处理能力[^3]。 ```python import torch.nn as nn class CSPBlock(nn.Module): def __init__(self, in_channels, out_channels): super(CSPBlock, self).__init__() # Split the input into two parts split_size = int(in_channels / 2) self.conv1 = nn.Conv2d(split_size, out_channels//2, kernel_size=1, stride=1, padding=0) self.bn1 = nn.BatchNorm2d(out_channels//2) self.relu = nn.LeakyReLU(0.1) def forward(self, x): # Splitting the tensor along channel dimension part1, part2 = torch.chunk(x, chunks=2, dim=1) # Passing only 'part2' through convolutions y = self.relu(self.bn1(self.conv1(part2))) # Concatenating back both parts after processing result = torch.cat((part1, y), dim=1) return result ``` 上述代码展示了一个简单的 CSP 块实现方式，其中展示了如何将输入分成两半，并仅对一半的数据执行密集的操作，然后再将其与其他未改变的一半结合起来作为输出的一部分。 ### CSPNet 和其他框架的关系 尽管 CSPNet 自身并不是一个独立的深度学习框架，但它可以在多个流行的深度学习库中实现，如 TensorFlow 或 PyTorch。由于这些主流框架都支持自定义层定义功能，因此开发者可以根据自己的项目需求灵活调整 CSPNet 结构参数设置[^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

月亮299

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值