- 博客(85)
- 收藏
- 关注
RSS订阅
原创 YOLOv5改进 | 一文汇总：如何在网络结构中添加注意力机制、C3、卷积、Neck、SPPF、检测头
为了进一步提升YOLOv5的性能，研究人员提出了多种改进策略，包括注意力机制、C3模块、卷积改进、Neck改进、SPPF模块、检测头改进等。本文将对这些改进策略进行综述，介绍其原理、应用场景、算法实现、代码示例、部署测试方法、文献资料、应用案例、总结、影响和未来扩展方向等。C3模块是一种用于特征提取的网络结构，它能够融合不同尺度的特征，从而提升模型对小目标的检测能力。SPPF模块是一种用于多尺度特征融合的网络结构，它可以提取不同尺度的特征并进行融合，从而提升模型对多尺度目标的检测能力。
2024-05-24 21:31:37
1085
原创 特征融合篇 | 结合内容引导注意力 DEA-Net 思想 实现双主干特征融合新方法 | IEEE TIP 2024
本篇介绍了一种基于细节增强注意力块（DEAB）的双主干特征融合新方法，该方法在 IEEE TIP 2024 上发表。该方法将内容引导注意力机制与细节增强卷积相结合，有效地融合了来自不同尺度的特征，显著提升了单幅图像去雾性能。该方法将内容引导注意力机制与细节增强卷积相结合，有效地融合了来自不同尺度的特征，显著提升了单幅图像去雾性能，在 IEEE TIP 2024 上得到了认可。
2024-05-23 22:32:37
860
原创 改进YOLOv5 | 在 C3 模块中添加【SimAM】【CoTAttention】【SKAttention】【DoubleAttention】注意力机制
YOLOv5 是一个强大的目标检测模型，在 COCO 数据集上取得了 state-of-the-art 的结果。为了进一步提高 YOLOv5 的性能，本文提出了一种改进方案，在 C3 模块中添加 SimAM、CoTAttention、SKAttention 和 DoubleAttention 注意力机制。
2024-05-09 12:14:14
933
原创 改进YOLOv5 | 在 C3 模块中添加【Triplet】【SpatialGroupEnhance】【NAM】【S2】注意力机制 | 附详细结构图
Triplet注意力：通过捕获特征之间的成对关系和三元组关系，增强特征表示能力。：通过对特征图进行分组和增强，提高模型对局部和全局特征的感知能力。：通过计算特征图中每个位置与其他所有位置的相似性，实现全局上下文建模。S2注意力：通过自适应地选择不同尺度的特征进行融合，提高模型对多尺度目标的检测能力。在YOLOv5的C3模块中添加注意力机制是一种有效的改进方法，可以显著提升模型的性能。不同的注意力模块具有不同的特点，选择合适的注意力模块需要根据具体的任务和数据集进行实验。
2024-08-20 20:38:44
226
原创 改进YOLOv5 | 在 C3 模块中添加【EffectiveSE】【GlobalContext】【GatherExcite】【MHSA】注意力机制 | 附详细结构图
EffectiveSE（高效通道注意力）：对SE模块的改进，通过更少的参数和计算量，提高了通道注意力建模的效率。GlobalContext（全局上下文注意力）：通过捕获全局上下文信息，帮助模型更好地理解图像的整体语义。GatherExcite（聚合激发）：通过聚合特征并进行激发，增强特征表达能力。MHSA（多头自注意力）：借鉴Transformer中的自注意力机制，捕获特征之间的长距离依赖关系。在YOLOv5的C3模块中添加注意力机制是一种有效的改进方法，可以显著提升模型的性能。
2024-08-15 14:59:03
812
原创 改进YOLOv5 | 在 C3 模块中添加【SimAM】【CoTAttention】【SKAttention】【DoubleAttention】注意力机制 | 附详细结构图
通过空间维度上的特征交互，自适应地调整每个空间位置的特征权重，强调目标区域。：结合通道和时间维度上的注意力，在时序数据上表现出色，但也可以应用于图像任务。：通过自适应地选择不同大小的卷积核，增强模型对多尺度特征的提取能力。：结合通道注意力和空间注意力，在多个维度上对特征进行加权，提高模型的表达能力。在YOLOv5的C3模块中添加注意力机制是一种有效的改进方法，可以显著提升模型的性能。不同的注意力模块具有不同的特点，选择合适的注意力模块需要根据具体的任务和数据集进行实验。
2024-08-15 14:57:24
721
原创 改进YOLOv5 | 在 C3 模块中添加【SE】【CBAM】【 ECA 】【CA】注意力机制 | 附详细结构图
在YOLOv5的C3模块中添加注意力机制是一种有效的改进方法，可以显著提升模型的性能。不同的注意力模块具有不同的特点，选择合适的注意力模块需要根据具体的任务和数据集进行实验。未来，随着深度学习技术的不断发展，注意力机制将会得到更加广泛的应用。研究者们可以探索新的注意力机制，或者将注意力机制与其他技术结合起来，以进一步提升模型的性能。
2024-08-14 17:54:18
520
原创 瓶颈结构改进 MobileBoNe / DenseBoNe / GhostBoNe / InceptionBone / ShuffleBoNe / ResBoNe
本文将深入探讨计算机视觉领域中常用的瓶颈结构，包括MobileNet、DenseNet、GhostNet、Inception、ShuffleNet和ResNet。这些结构通过不同的方式对网络进行设计，以在保证模型性能的同时，降低模型的计算量和参数量。本文对几种常见的瓶颈结构进行了详细介绍，每种结构都有其独特的优势和适用场景。在选择合适的瓶颈结构时，需要综合考虑模型的性能、计算量、参数量以及部署平台等因素。
2024-08-13 14:23:44
257
原创 改进YOLO系列 | YOLOv5 更换训练策略之 SIoU / EIoU / WIoU / Focal_xIoU 最全汇总版 | 新增MPDIoU
本文将深入探讨YOLOv5目标检测模型中常用的IoU损失函数的改进，包括SIoU、EIoU、WIoU、Focal-xIoU以及新兴的MPDIoU。这些改进旨在更准确地衡量预测框与真实框之间的差异，从而提升模型的定位精度。不同的IoU损失函数在不同的场景下具有不同的优势。选择合适的损失函数可以显著提升YOLOv5模型的定位精度。
2024-08-11 10:22:27
532
原创 改进YOLO系列 | 添加轻量化Decouple_Head 和 ASFF_Head
本文提出了一种改进YOLO系列目标检测模型的方法，即在YOLO的头部引入轻量化的Decouple_Head和ASFF_Head模块，以提升模型的性能和效率。Decouple_Head通过解耦分类和回归任务，提高了模型的表达能力；ASFF_Head通过自适应特征融合，增强了模型对多尺度特征的利用。通过在YOLOv5头部引入Decouple_Head和ASFF_Head，可以显著提升模型的性能和效率。Decouple_Head通过解耦分类和回归任务，提高了模型的表达能力；
2024-08-06 22:25:34
838
原创 特征融合篇 | YOLOv5/v7 引入 最新 BiFusion Neck | 附详细结构图
在目标检测模型中，特征融合是至关重要的一步，它将来自不同尺度的特征进行融合，以获得更丰富的语义信息和更强的表达能力。FPN 的自上而下特征传播路径容易导致信息丢失FPN 的特征融合方式过于简单，无法充分利用不同尺度特征之间的互补信息为了解决这些问题，本文提出了一种新的方案，即使用 BiFusion Neck 来替换 YOLOv5 和 YOLOv7 中的 FPN。
2024-08-05 07:00:00
762
原创 改进YOLOv5/v7 | GSConv+Slim-neck 减轻模型的复杂度同时提升精度 | 附改进方式模板
YOLOv5 和 YOLOv7 是目前最先进的目标检测模型之一，但它们也存在模型复杂度高、计算量大等问题。为了解决这些问题，本文提出了一种新的方案，即使用 GSConv 和 Slim-neck 来改进 YOLOv5 和 YOLOv7 模型。GSConv 是一种新型的卷积操作，它可以有效地减少模型的参数量和计算量，同时保持较高的精度。Slim-neck 是一种轻量级的颈部网络结构，它可以将来自主干网络的特征进行有效的融合，并为头部网络提供高质量的特征表示。
2024-07-24 18:07:04
1405
原创 特征融合篇 | YOLOv5/v7 更换上采样方式 | 最近邻 / 双线性 / 双立方 / 三线性 / 转置卷积
在目标检测模型中，特征融合是至关重要的一步，它将来自不同尺度的特征进行融合，以获得更丰富的语义信息和更强的表达能力。传统的 YOLOv5 和 YOLOv7 模型使用最近邻插值作为上采样方式来进行特征融合，但这种方法存在精度较低、易产生伪影等问题。为了提高特征融合的精度，本文提出了一种新的方案，即使用不同的上采样方式来替换 YOLOv5 和 YOLOv7 中的最近邻插值。本文将介绍几种常用的上采样方式，包括双线性插值、双立方插值、三线性插值和转置卷积，并详细分析它们的原理、优缺点和应用场景。
2024-07-20 16:49:43
828
原创 YOLOv7 更换Neck之 BiFPN
YOLOv7是 Ultralytics 公司于 2022 年 4 月发布的最新一代目标检测模型，在 COCO 数据集上取得了56.2 mAP的惊人成绩，超越了所有已知的目标检测模型。YOLOv7 的核心架构与之前的版本基本一致，但对一些关键模块进行了改进，其中之一就是颈部网络（Neck）。BiFPN（Bi-directional Feature Pyramid Network）是一种新型的颈部网络结构，它通过自下而上的特征融合和自上而下的特征增强来提高目标检测的性能。能够更好地保留多尺度特征信息；
2024-07-17 12:00:00
884
原创 YOLOv5 更换Neck之 BiFPN
YOLOv5 是一个用于目标检测的深度学习模型，其核心架构由主干网络（Backbone）、颈部网络（Neck）和头部网络（Head）组成。颈部网络的作用是将主干网络提取的特征融合并调整到适合头部网络进行预测的尺寸。BiFPN（Bi-directional Feature Pyramid Network）是一种新型的颈部网络结构，它通过自下而上的特征融合和自上而下的特征增强来提高目标检测的性能。能够更好地保留多尺度特征信息；能够增强特征的语义信息；能够提高目标检测的准确性和鲁棒性。
2024-07-16 12:35:58
173
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 EfficientNet | 卷积神经网络模型缩放的再思考
YOLOv5和YOLOv7是目前主流的轻量级目标检测模型，在速度和精度方面取得了良好的平衡。然而，传统的YOLOv5/v7模型使用FPN和CSPNet等结构作为主干网络，在CPU上运行时可能存在效率较低的问题。为了解决这个问题，本文提出了一种使用EfficientNet作为主干网络的YOLOv5/v7模型，该模型在CPU上具有更高的推理速度和更低的内存消耗。
2024-07-15 23:10:26
1392
1
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 PP-LCNet | 轻量级CPU卷积神经网络
YOLOv5和YOLOv7是目前主流的轻量级目标检测模型，在速度和精度方面取得了良好的平衡。然而，传统的YOLOv5/v7模型使用FPN和CSPNet等结构作为主干网络，在CPU上运行时可能存在效率较低的问题。为了解决这个问题，本文提出了一种使用PP-LCNet作为主干网络的YOLOv5/v7模型，该模型在CPU上具有更高的推理速度和更低的内存消耗。
2024-07-12 10:47:51
847
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 MobileNetV3 | 基于神经网络搜索的轻量级网络（2）
YOLOv5和YOLOv7是目前主流的轻量级目标检测模型，在速度和精度方面取得了良好的平衡。然而，传统的YOLOv5/v7模型使用FPN和CSPNet等结构作为主干网络，在移动设备和嵌入式系统等资源受限的场景中运行时可能存在效率较低的问题。为了解决这个问题，本文提出了一种使用MobileNetV3作为主干网络的YOLOv5/v7模型，该模型在移动设备和嵌入式系统上具有更高的推理速度和更低的内存消耗。
2024-07-10 08:30:00
1774
原创 YOLOv5/v7 应用轻量级通用上采样算子CARAFE
在目标检测模型中，特征融合是至关重要的一步，它将来自不同尺度的特征进行融合，以获得更丰富的语义信息和更强的表达能力。传统的 YOLOv5 和 YOLOv7 模型使用最近邻插值作为上采样方式来进行特征融合，但这种方法存在精度较低、易产生伪影等问题。为了提高特征融合的精度，本文提出了一种新的方案，即使用CARAFE（Content-Aware ReAssembly of FEatures）来替换 YOLOv5 和 YOLOv7 中的最近邻插值。
2024-07-10 00:32:02
657
原创 即插即用篇 | YOLOv5/v7引入Haar小波下采样 | 一种简单而有效的语义分割下采样模块
在目标检测和语义分割任务中，特征下采样是至关重要的一步，它可以降低模型的计算复杂度，同时保留重要的特征信息。传统的 YOLOv5 和 YOLOv7 模型使用池化层来进行特征下采样，但池化层会丢失一些重要的空间信息。为了解决这个问题，本文提出了一种新的方案，即使用 Haar 小波下采样来替换 YOLOv5 和 YOLOv7 中的池化层。Haar 小波是一种简单而有效的下采样方法，它可以保留更多的空间信息，同时降低计算复杂度。
2024-07-10 00:31:37
687
原创 主干网络篇 | YOLOv5/v7 更换主干网络之 SwinTransformer | Vision Transformer using Shifted Windows
近年来，基于 Transformer 的视觉模型在图像识别、目标检测等领域取得了巨大的进步。然而，Transformer 模型的参数量和计算量都比较大，难以部署在资源受限的设备和平台上。为了解决这个问题，SwinTransformer 应运而生。SwinTransformer 是一种基于 Transformer 的视觉模型，它通过引入“Shifted Window”和“Hierarchical Attention”等机制来提高模型的性能和效率。
2024-07-09 20:14:53
1007
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 GhostNet | 从廉价的操作中生成更多的特征图（2）
YOLOv5和YOLOv7是目前主流的轻量级目标检测模型，在速度和精度方面取得了良好的平衡。然而，传统的YOLOv5/v7模型使用FPN和CSPNet等结构作为主干网络，在移动设备和嵌入式系统等资源受限的场景中运行时可能存在效率较低的问题。为了解决这个问题，本文提出了一种使用GhostNet作为主干网络的YOLOv5/v7模型，该模型在移动设备和嵌入式系统上具有更高的推理速度和更低的内存消耗。YOLOv5/v7模型更换GhostNet。
2024-07-09 18:50:42
733
原创 主干网络篇 | YOLOv5/v7 更换主干网络之 ShuffleNetv2 | 高效CNN架构设计的实用指南（2）
YOLOv5和YOLOv7是目前主流的轻量级目标检测模型，在速度和精度方面取得了良好的平衡。然而，传统的YOLOv5/v7模型使用FPN和CSPNet等结构作为主干网络，在移动设备和嵌入式系统等资源受限的场景中运行时可能存在效率较低的问题。为了解决这个问题，本文提出了一种使用ShuffleNetv2作为主干网络的YOLOv5/v7模型，该模型在移动设备和嵌入式系统上具有更高的推理速度和更低的内存消耗。YOLOv5/v7模型更换ShuffleNetv2主干。
2024-07-06 13:51:57
2092
原创 主干网络篇 | YOLOv5/v7 更换主干网络之 ShuffleNetv2 | 高效CNN架构设计的实用指南
近年来，深度卷积神经网络（CNN）在图像识别、目标检测等领域取得了巨大进展。然而，随着模型复杂度的不断提升，模型训练和部署所需的计算资源也呈指数级增长，这对于资源受限的设备和平台带来了挑战。为了解决这个问题，ShuffleNetv2 应运而生。ShuffleNetv2 是一种高效的卷积神经网络架构，它通过引入“ShuffleNet Unit”来提高模型的性能和效率。
2024-07-02 03:00:00
683
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 GhostNet | 从廉价的操作中生成更多的特征图
近年来，深度卷积神经网络（CNN）在图像识别、目标检测等领域取得了巨大进展。然而，随着模型复杂度的不断提升，模型训练和部署所需的计算资源也呈指数级增长，这对于资源受限的设备和平台带来了挑战。为了解决这个问题，GhostNet 应运而生。GhostNet 是一种轻量级的卷积神经网络架构，它通过引入“Ghost Module”来从廉价的操作中生成更多的特征图，以提高模型的性能和效率。
2024-06-30 00:34:33
680
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 MobileNetV3 | 基于神经网络搜索的轻量级网络
近年来，深度卷积神经网络（CNN）在图像识别、目标检测等领域取得了巨大进展。然而，随着模型复杂度的不断提升，模型训练和部署所需的计算资源也呈指数级增长，这对于资源受限的设备和平台带来了挑战。为了解决这个问题，MobileNetV3 应运而生。MobileNetV3 是一种基于神经网络架构搜索（NAS）的轻量级卷积神经网络架构，它通过探索不同网络结构的组合，以最小化的计算代价获得最大化的精度，实现了模型的轻量化和高效性。
2024-06-29 14:27:05
1183
原创 主干网络篇 | YOLOv5/v7 更换主干网络之 SwinTransformer | Vision Transformer using Shifted Windows
YOLOv5和YOLOv7是目前主流的轻量级目标检测模型，在速度和精度方面取得了良好的平衡。然而，传统的YOLOv5/v7模型使用FPN和CSPNet等结构作为主干网络，在移动设备和嵌入式系统等资源受限的场景中运行时可能存在效率较低的问题。为了解决这个问题，本文提出了一种使用SwinTransformer作为主干网络的YOLOv5/v7模型，该模型在移动设备和嵌入式系统上具有更高的推理速度和更低的内存消耗。YOLOv5/v7模型更换SwinTransformer主干网络，显著提升了模型在移动设备和。
2024-06-29 14:24:52
1183
原创 主干网络篇 | YOLOv5/v7 更换主干网络为 VGG13 / VGG16 / VGG19 | 对比实验必备
YOLOv5/v7 是目前流行的实时目标检测框架之一，它以其快速、准确的检测性能而著称。然而，YOLOv5/v7 的默认主干网络通常是轻量级的，例如 Darknet53 或 CSPDarknet53，这可能会导致模型精度略逊于其他更复杂的模型。VGGNet 是一种经典的卷积神经网络架构，它以其深度和丰富的特征提取能力而闻名。VGG13、VGG16 和 VGG19 是 VGGNet 的三个变体，它们分别具有 13、16 和 19 个卷积层。
2024-06-29 13:36:43
874
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 HGNetv2 | 百度新一代超强主干网络
近年来，随着深度学习技术的快速发展，目标检测领域取得了显著的进步。然而，传统的目标检测模型通常存在精度与速度难以兼顾的问题。为了解决这个问题，百度提出了一种新的轻量级高效骨干网络 HGNetv2。HGNetv2 采用了多种先进的技术，例如 CSP Ghost Module、Channel Attention Module、Depthwise Separable Convolutions 等，在保证模型精度的同时，也显著提高了模型的推理速度。
2024-06-28 07:00:00
1455
1
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 EfficientNet | 卷积神经网络模型缩放的再思考
近年来，深度卷积神经网络（CNN）在图像识别、目标检测等领域取得了巨大进展。然而，随着模型复杂度的不断提升，模型训练和部署所需的计算资源也呈指数级增长，这对于资源受限的设备和平台带来了挑战。为了解决这个问题，EfficientNet 应运而生。EfficientNet 是一种基于神经网络架构搜索（NAS）的卷积神经网络架构，它通过探索不同网络结构的组合，以最小化的计算代价获得最大化的精度，实现了模型的轻量化和高效性。
2024-06-27 08:00:00
1625
1
原创 主干网络篇 | YOLOv5/v7 更换骨干网络之 PP-LCNet | 轻量级CPU卷积神经网络
YOLOv5 和 YOLOv7 是目前主流的目标检测算法之一，具有速度快、精度高的特点。但 YOLOv5 和 YOLOv7 的原始模型结构中使用的是 MobileNetV3 作为骨干网络，该网络在 CPU 上的推理速度相对较慢。PP-LCNet 是一种轻量级的卷积神经网络，在 CPU 上具有较快的推理速度，同时能够保持较高的精度。为了进一步提升 YOLOv5 和 YOLOv7 在 CPU 上的推理速度，本文提出了一种改进的 YOLOv5/v7 模型，将骨干网络替换为 PP-LCNet。
2024-06-26 22:24:29
953
原创 改进YOLOv7 | 在 ELAN 模块和 ELAN-H 模块中添加【EffectiveSE】【GlobalContext】【GatherExcite】【MHSA】注意力机制 | 附详细结构图
YOLOv7 是目前主流的目标检测算法之一，具有速度快、精度高的特点。但 YOLOv7 的原始模型结构中缺乏注意力机制，导致模型对全局信息和特征之间的依赖关系建模不足，限制了模型的性能提升。为了解决上述问题，本文提出了一种改进的 YOLOv7 模型，在 ELAN 模块和 ELAN-H 模块中分别引入【EffectiveSE】【GlobalContext】【GatherExcite】【MHSA】注意力机制，增强模型对全局信息和特征之间的依赖关系建模能力，提升模型的精度和鲁棒性。
2024-06-25 02:45:00
1399
原创 YOLOv7 yaml 文件简化 | 104层简化为30层
YOLOv7是目前主流的目标检测算法之一，具有速度快、精度高的特点。但YOLOv7的原始模型结构较为复杂，包含104层，训练和部署需要大量的计算资源。为了降低模型复杂度，提升模型推理速度，研究人员提出了YOLOv7的简化版本，将模型层数缩减至30层，同时保持了较高的精度。
2024-06-24 02:30:00
284
原创 改进YOLO系列 | ICLR2022 | OMNI-DIMENSIONAL DYNAMIC CONVOLUTION: 全维动态卷积
YOLO（You Only Look Once）是一种目标检测算法，以其速度和精度著称。本文将介绍YOLO系列的改进，包括ICLR2022上提出的全维动态卷积（Omni-Dimensional Dynamic Convolution，ODDC）。ODDC的核心是动态卷积核函数，它可以根据输入特征和目标位置计算卷积核的大小和形状。# 根据特征和位置计算卷积核大小和形状kernel_size = ... # 例如，根据特征图的通道数和目标大小计算卷积核大小。
2024-06-23 00:13:45
1059
原创 主干网络篇 | YOLOv5/v7 更换主干网络之 ResNet50/ResNet101 | 对比实验必备
ResNet 是近年来最受欢迎的深度卷积神经网络架构之一，它以其优异的性能和鲁棒性而著称。ResNet50 和 ResNet101 是 ResNet 家族中最常用的两个模型，它们分别具有 50 层和 101 层残差块。YOLOv5 和 YOLOv7 是目前流行的实时目标检测框架，它们以其快速、准确的检测性能而著称。然而，YOLOv5/v7 的默认主干网络通常是轻量级的，例如 Darknet53 或 CSPDarknet53，这可能会导致模型精度略逊于其他更复杂的模型。
2024-06-22 08:00:00
1672
原创 改进YOLOv7 | 在 ELAN 模块中添加【Triplet】【SpatialGroupEnhance】【NAM】【S2】注意力机制 | 附详细结构图
YOLOv7 是目前主流的目标检测算法之一，具有速度快、精度高的特点。但 YOLOv7 的原始模型结构中缺乏注意力机制，导致模型对全局信息和特征之间的依赖关系建模不足，限制了模型的性能提升。为了解决上述问题，本文提出了一种改进的 YOLOv7 模型，在 ELAN 模块中分别引入【Triplet】【SpatialGroupEnhance】【NAM】【S2】注意力机制，增强模型对全局信息和特征之间的依赖关系建模能力，提升模型的精度和鲁棒性。
2024-06-21 08:00:00
1174
原创 改进YOLO系列 | 谷歌团队 | CondConv：用于高效推理的条件参数化卷积
YOLO系列目标检测算法以其速度和精度著称，但其推理速度仍然存在提升空间。谷歌团队提出的CondConv（Conditional Parameterized Convolution）是一种条件参数化卷积，可以根据输入条件动态调整卷积核参数，从而提高推理效率。CondConv的核心是条件函数，它可以根据输入特征或其他信息生成条件。# 根据输入特征生成条件cond = feature.mean(dim=(1, 2, 3)) # 例如，使用特征图的全局平均值作为条件# 使用条件预测参数。
2024-06-20 08:21:47
1749
1
原创 改进YOLO系列 | CVPR 2021 | Involution：超越convolution和self-attention的神经网络算子
Involuton是CVPR 2021上提出的新型神经网络算子，旨在超越卷积和自注意力，提供更高效、更具表达力的特征提取能力。Involution核心的第一步是将卷积核分解为多个核点。# 将卷积核分解为多个核点kernel_points = kernel.view(-1, 1, 1, 1) # 将卷积核展开为一维向量Involution使用注意力机制对核点进行加权融合。# 计算注意力权重attention = torch.bmm(q, k.transpose(0, 1)) # 计算注意力矩阵。
2024-06-17 04:00:00
794
原创 改进YOLO系列 | Microsoft 团队 | Dynamic Convolution ：自适应地调整卷积参数
YOLO（You Only Look Once）是一种目标检测算法，以其速度和精度著称。本文将介绍YOLO系列的改进，包括Microsoft团队提出的Dynamic Convolution（动态卷积）。Dynamic Convolution通过自适应调整卷积参数来解决尺度变化和小目标检测的问题。Dynamic Convolution的核心是使用自注意力机制计算每个卷积核的注意力权重。# 计算注意力权重。
2024-06-16 01:38:11
1151
原创 改进YOLO系列 | YOLOv5/v7 引入 Dynamic Snake Convolution | 动态蛇形卷积
YOLO系列目标检测算法以其速度和精度著称，但对于细长目标例如血管、道路等，其性能仍有提升空间。动态蛇形卷积（DSC）是YOLOv5/v7中引入的一种改进，旨在更好地处理细长目标。DSC的核心是使用控制点序列来变形卷积核。# 根据目标框生成控制点序列# 将目标框转换为控制点序列]))DSC根据控制点序列变形卷积核。# 根据控制点序列变形卷积核DSC层继承自nn.Module类，并实现了DSC操作。# 生成控制点序列# 变形卷积核# DSC操作return out。
2024-06-12 22:33:12
891
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人