“365天深度学习训练营”报名进行中～

👉 独家改进，对现有YOLOv10进行二次创新，提升检测精度，适合科研创新度十足，强烈推荐🌟 统一使用 YOLOv10 代码框架，💥 本博客包含大量的改进方式，降低改进难度,改进点包含【Neck特征融合】【Head检测头】【注意力机制】【IoU损失函数】【NMS】【Loss计算方式】【自注意力机制】【数据增强部分】【标签分配策略】【激活函数】等各个部分。🔥 专栏创新点教程均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！

👉 独家改进，对现有YOLOv10进行二次创新，提升检测精度，适合科研创新度十足，强烈推荐🌟 统一使用 YOLOv10 代码框架，💥 本博客包含大量的改进方式，降低改进难度,改进点包含【Neck特征融合】【Head检测头】【注意力机制】【IoU损失函数】【NMS】【Loss计算方式】【自注意力机制】【数据增强部分】【标签分配策略】【激活函数】等各个部分。🔥 专栏创新点教程均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！

👉 独家改进，对现有YOLOv10进行二次创新，提升检测精度，适合科研创新度十足，强烈推荐🌟 统一使用 YOLOv10 代码框架，💥 本博客包含大量的改进方式，降低改进难度,改进点包含【Neck特征融合】【Head检测头】【注意力机制】【IoU损失函数】【NMS】【Loss计算方式】【自注意力机制】【数据增强部分】【标签分配策略】【激活函数】等各个部分。🔥 专栏创新点教程均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！

👉 独家改进，对现有YOLOv10进行二次创新，提升检测精度，适合科研创新度十足，强烈推荐🌟 统一使用 YOLOv10 代码框架，💥 本博客包含大量的改进方式，降低改进难度,改进点包含【Neck特征融合】【Head检测头】【注意力机制】【IoU损失函数】【NMS】【Loss计算方式】【自注意力机制】【数据增强部分】【标签分配策略】【激活函数】等各个部分。🔥 专栏创新点教程均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！

👉 独家改进，对现有YOLOv10进行二次创新，提升检测精度，适合科研创新度十足，强烈推荐🌟 统一使用 YOLOv10 代码框架，💥 本博客包含大量的改进方式，降低改进难度,改进点包含【Neck特征融合】【Head检测头】【注意力机制】【IoU损失函数】【NMS】【Loss计算方式】【自注意力机制】【数据增强部分】【标签分配策略】【激活函数】等各个部分。🔥 专栏创新点教程均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！

在backbone中，ADown可以用于在特征图的不同层之间进行下采样，而在head部分，它可以帮助进一步细化特征图的分辨率，以便于更精确的目标检测。例如，在YOLOv8的改进中，将ADown添加到backbone和head处，可以提供多个配置选项以适应不同的改进方法，这有助于实现更高的性能32。理论上，正确流程应该是：通过理论推导，获取合理的改进方案（即：设计、修改、调整模块等等），通过实验验证方案的有效性，进而将成果转化为科研论文。是YOLOv9中的下采样模块，对不同的数据场景具有一定的可学习能力。

理论上，正确流程应该是：通过理论推导，获取合理的改进方案（即：设计、修改、调整模块等等），通过实验验证方案的有效性，进而将成果转化为科研论文。我们能做的就是基于现有知识，对YOLOv10进行尝试性改进，一旦发现了某个突破口，则对该点进行展开分析，对改进方案进行深入研究探索。还是那句话，不是ADown模块的原理不重要，而是在做创新这件事情上，我们要功利一些。像我在前面提到的那样，现阶段以学习为主，尝试将自己的想法加以实践，进而实验验证。**第一步：**在block.py文件中新增ADown类。

比如下图是对Resnet-50某层输出的可视化，每张图代表一个通道，图中三组颜色相连的图非常相似。论文将一组中的一张图称为本征图（intrinsic），其他和本征图相似的图称为本征图的魅影（ghost）。那么，既然ghost和Intrinsic非常相似，我们是否可以通过一种相对简单的、计算量较少的运算代替运算量大的卷积操作生成ghost图？ghost模块就是基于这种想法，提出用简单的线性运算生成ghost，但总共的通道数（intrinsic+ghost）以及生成特征图的大小和原来保持一致。

Ghost Module是一种模型压缩的方法，即在保证网络精度的同时减少网络参数和计算量，从而提升计算速度（speed），降低延时（latency）。Ghost 模块可以代替现有卷积网络中的每一个卷积层。基于Ghost模块，论文作者堆叠Ghost模块构建了GhostNet。模型提出的缘由：卷积输出的一组特征图在通道方向上，有部分通道内容相似。比如下图是对Resnet-50某层输出的可视化，每张图代表一个通道，图中三组颜色相连的图非常相似。

相比于现有的 MLP 的结构，S2-MLP 的一个重要优势是仅仅使用通道方向的全连接（1×11 \times 11×1卷积）是可以作为 Backbone 的，期待该团队后续的进展。S2-MLPv2 其实是通过 Spatial-shift 和 Split Attention 代替原有的N×NN \times NN×N卷积，本质上并没有延续 MLP-Mixer 架构中长距离依赖的思想。S2-MLPv2 中也并没有长距离依赖的使用。

本文提出一种概念简单且非常有效的注意力模块。不同于现有的通道/空域注意力模块，该模块无需额外参数为特征图推导出3D注意力权值。具体来说，本文基于著名的神经科学理论提出优化能量函数以挖掘神经元的重要性。本文进一步针对该能量函数推导出一种快速解析解并表明：该解析解仅需不超过10行代码即可实现。该模块的另一个优势在于：大部分操作均基于所定义的能量函数选择，避免了过多的结构调整。最后，本文在不同的任务上对所提注意力模块的有效性、灵活性进行验证。

受皮质神经元根据不同的刺激可动态调节其自身的receptive field的启发，提出了一种动态选择机制，根据输入信息的多个尺度自适应地调整其感受野大小。设计了一种称为选择核（SK）单元的结构块，利用softmax attention 对不同核大小的多个分支进行融合。

识别不太显着的特征是模型压缩的关键。然而，它尚未在革命性的注意力机制中进行研究。在这项工作中，我们提出了一种新颖的基于归一化的注意力模块（NAM），它抑制了不太显着的权重。它将权重稀疏惩罚应用于注意力模块，从而使它们在保持相似性能的同时具有更高的计算效率。注意力机制是近年来的热门研究兴趣之一。它帮助深度神经网络抑制不太显着的像素或通道。许多先前的研究侧重于通过注意力操作来捕捉显着特征。这些方法成功地利用了来自不同维度特征的互信息。然而，他们没有考虑权重的影响因素，这能够进一步抑制不重要的通道或像素。

卷积神经网络(CNNs)在计算机视觉领域的许多任务和应用中得到了广泛的应用。研究人员发现，CNN在提取深层视觉表征方面表现良好。随着CNNs相关技术的改进，ImageNet数据集上的图像分类，在过去九年中，准确率从63%提高到90%。这一成就还归功于ImageNet数据集的复杂性，这为相关研究提供了难得的机会。鉴于其涵盖的真实场景的多样性和广泛性，它给传统的表象分类基准、表征学习、迁移学习等研究带来了很大的益处，特别是对注意机制的研究也带来了挑战。

长距离的依赖关系可以捕获有用的上下文信息，以使视觉理解问题受益。在这项工作中，作者提出了一个Criss-Cross网络（CCNet），以通过更有效和高效的方式获取这些重要信息。具体而言，对于每个像素，我们的CCNet都可以通过新颖的criss-cross attention(CCA)模块获取交叉路径上其周围像素的上下文信息。通过采取进一步的循环操作，每个像素最终可以捕获所有像素的远程依赖关系。1）GPU内存友好。与non-local相比，recurrent CCA模块所需的GPU内存使用量减少了11倍。

当前的 CNN 中的 attention 机制主要包括：channel attention 和 spatial attention，当前一些方法（GCNet 、CBAM 等）通常将二者集成，容易产生 converging difficulty 和 heavy computation burden 的问题。尽管 ECANet 和 SGE 提出了一些优化方案，但没有充分利用 channel 和 spatial 之间的关系。

SE-Net 是 ImageNet 2017（ImageNet 收官赛）的冠军模型，是由WMW团队发布。具有复杂度低，参数少和计算量小的优点。且SENet 思路很简单，很容易扩展到已有网络结构如 Inception 和 ResNet 中。

非极大值抑制（Non-maximum Suppression (NMS)）的作用简单说就是模型检测出了很多框，我应该留哪些。本篇将演示如何修改：NMS、Merge-NMS、Soft-NMS、CIoU-NMS、DIoU-NMS、GIoU-NMS、EIoU-NMS、SIoU-NMS。

非极大值抑制（Non-maximum Suppression, NMS）的作用简单说就是模型检测出了很多框，我应该留哪些。Soft-NMS是一种用于目标检测的算法，其主要目的是解决传统的非极大值抑制算法（NMS）可能会忽略掉重叠度较小但是有用的目标的问题。Soft-NMS是一种渐进式的降低重叠框得分的方法，而不是通过硬阈值直接将得分置为零。根据学者的观点，Soft-NMS可以通过一些调整参数来适应不同的场景，例如控制软化程度，以及调整阈值等。

这个文件是YOLOv5网络模型的搭建文件，如果你想改进YOLOv5，那么这么文件是你必须进行修改的文件之一。文件内容看起来多，其实真正有用的代码不多的，重点理解好我文中提到的一个函数两个类即可。注：由于YOLOv5版本众多，同一个文件对于细节处你可能会看到不同的版本，不用担心这都是正常的，注意把握好整体架构即可。📌 本周任务：将YOLOv5s网络模型中的C3模块按照下图方式修改形成C2模块，并将C2模块插入第2层与第3层之间，且跑通YOLOv5s。提示1：需要修改yolo.py文件。C2模块与C3。

该文件是实现YOLO算法中各个模块的地方，如果我们需要修改某一模块（例如C3），那么就需要修改这个文件中对应模块的的定义。这里我先围绕代码，带大家过一遍各个模块的定义，详细介绍我将在后续的教案中逐步展开。由于YOLOv5版本问题，同一个模块你可能会看到不同的版本，这都是正常的，以官网为主即可。

YOLOv5配置了4种不同大小的网络模型，分别是YOLOv5sYOLOv5mYOLOv5lYOLOv5x，其中YOLOv5s是网络深度和宽度最小但检测速度最快的模型，其他3种模型都是在YOLOv5s的基础上不断加深、加宽网络使得网络规模扩大，在增强模型检测性能的同时增加了计算资源和速度消耗。出于对检测精度、模型大小、检测速度的综合考量，本文选择YOLOv5s作为研究对象进行介绍。文件是YOLOv5s网络结构的定义文件，如果你想改进算法的网络结构，需要先修改该文件中的相关参数，然后再修改与中的相关代码。

我们接着上一篇文章配置完YOLOv5需要的环境后，今天我们试着用YOLOv5训练自己的数据。有图有真相，先看看我的运行结果。

YOLO系列是目前最热门的目标检测算法，那就拿它“开刀”了。YOLO目前已经更新到了YOLOv5，由于YOLOv5太新了，目前TensorFlow2版本还未出来（网上存在一些tf版本的，但是大概率不靠谱，就不踩坑了），那就用PyTorch吧，反正PyTorch迟早也是要学的嘛。TensorFlow：更倾向于工程人员，落地比较好。PyTorch：比较倾向于研究人员，前沿算法用得比较多。某宝上找人帮忙给小项目换一个框架（TensorFlow互转PyTorch），收费一般是1K起步，所以啊，技多不压身。