YOLOv5改进系列(十八) 本文(1.2万字) | 引入STSViT |

最新推荐文章于 2024-07-09 20:07:16 发布
最新推荐文章于 2024-07-09 20:07:16 发布
阅读量904 收藏 23
点赞数 23
文章标签： YOLO 深度学习 人工智能 STSViT
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44302770/article/details/135276094
版权
人工智能专栏计划 专栏收录该内容
141 篇文章 7 订阅

已下架不支持订阅

点击进入专栏：
《人工智能专栏》 Python与Python | 机器学习 | 深度学习 | 目标检测 | YOLOv5及其改进 | YOLOv8及其改进 | 关键知识点 | 各种工具教程

文章目录

  • 理论
    • 一、背景介绍
    • 二、论文的introduction
    • 三、论文的Related Works
    • 四、论文的模型细节
      • 4.1. Overall Architecture
      • 4.2. Super Token Attention
        • 4.2.1.Super Token Sampling (STS)
        • 4.2.2.Token Upsampling (TU)
  • 引入Super Token Sampling ViT
    • 首先我们将源代码添加到 `common.py` 文件中
    • `yolov5-STSViT.yaml`

一些解读

理论

一、背景介绍

这篇论文是CVPR2023的一篇论文，主要工作是对于Vision Transformer的自注意力机制进行了魔改。我感觉这篇文章或许对我的工作有帮助，因此，今天精读一下。

论文下载地址：[2211.11167] Vision Transformer with Super Token Sampling (arxiv.org)

代码开源仓库：hhb072/STViT (github.com)

在论文中，魔改前的机制似乎被叫做vanilla。

二、论文的introduction

Transformer被demonstrated在很多任务中表现出色，dominate了NLP，

了解本专栏 已下架不支持订阅
小酒馆燃着灯
关注
  • 23
    点赞
  • 踩
  • 23
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录

已下架不支持订阅

基于YOLOv5与改进VG...TC的数字仪表自动读数方法
01-11
为进一步提高数字仪表自动读数算法的准确率和识别效率，推动数字电网建设，文中提出一种基于 YOLOv5 和改进 VGG⁃CTC 模型的数字仪表自动读数方法。该方法包括数字区域定位和仪表字符识别两部分。首先，采用 YOLOv5 ...
yolov5权重文件，包含yolov5l.pt yolov5m.pt yolov5s.pt yolov5x.pt
03-14
1. **YOLOv5模型结构**：YOLOv5沿用了YOLO系列的核心思想，即单次前传完成目标检测，但每个版本都有所改进。它采用了统一的Backbone（主干网络），如Darknet，用于特征提取，然后通过neck结构连接到多个检测头，预测...
yolov5学习、简化、改进.zip
01-06
YOLO系列模型以其快速、准确的物体检测能力在计算机视觉领域广受欢迎，而YOLOv5作为最新版，引入了多项改进以提升性能。 首先，我们来看YOLOv5的基本结构。YOLOv5采用单阶段检测方法，即直接从输入图像中预测边界框...
yolov5目标检测代码yolov5-master (1).zip
03-04
1. `models` 文件夹：包含了YOLOv5不同版本的模型结构定义，如 yolov5s.py、yolov5m.py 和 yolov5l.py 分别代表小型、中型和大型模型。这些PyTorch实现的模型定义了网络架构，包括Darknet基础网络和用于目标检测的...
yolov5吸烟检测数据集-yolov5抽烟识别检测数据集.zip
04-18
yolov5抽烟识别检测数据集.zipyolov5吸烟检测数据集-yolov5抽烟识别检测数据集.zipyolov5吸烟检测数据集-yolov5抽烟识别检测数据集.zipyolov5吸烟检测数据集-yolov5抽烟识别检测数据集.zipyolov5吸烟检测数据集-...
实战 | YOLOv8使用TensorRT加速推理教程（步骤 + 代码）
最新发布
Color Space的博客
07-09 62
这一步主要是安装根据自己的硬件安装GPU驱动，下载CUDNN等，以往的文章已经介绍过多次，可以点击下面的图片跳转到对应文章查看(点击图片跳转)。DeepSparse：专为稀疏模型设计的CPU推理运行时，可以有效加速基于WSL2的Windows环境下的推理。OpenVINO：Intel的推理工具套件，用于CPU上的模型优化和加速，支持量化和多种硬件加速。可以使用官网下载的模型也可以使用自己训练好的模型。保持框架最新：确保使用的深度学习框架版本是最新的，以获得最新的优化和bug修复。
绝缘子陶瓷绝缘子玻色绝缘子聚合物绝缘子检测数据集VOC+YOLO格式2050张3类别
FL1623863129的博客
07-06 129
数据集格式：Pascal VOC格式+YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)标注类别名称:["glass insulator","polymer insulator","porcelain insulator"]特别声明：本数据集不对训练的模型或者权重文件精度作任何保证，数据集只提供准确且合理标注。图片数量(jpg文件个数)：2050。标注数量(xml文件个数)：2050。标注数量(txt文件个数)：2050。
YOLO 应用
weixin_46807151的博客
07-04 180
YOLO（You Only Look Once）算法是一种高效的对象检测模型，自其发布以来，在多个领域中都得到了广泛的应用。总的来说，YOLO算法凭借其高效性和准确性，在多个领域中都有着广泛的应用前景。随着技术的不断发展，YOLO算法的性能和适用范围还将继续提升和扩展。
YOLOv8模型调参---数据增强
weixin_45303602的博客
07-04 770
离线增强是指在模型训练前在计算机上一次性完成所有数据增强操作，将原始数据集转化为包含多种增强版本的扩充数据集，并将增强后的样本保存到磁盘或内存中，然后使用这个固定的扩充数据集进行训练。
使用YOLO训练好自己的模型并持续训练【教程二】
donnycode编程栈
07-09 201
在使用已经训练好的 YOLOv5 模型继续训练时，如果减少了 yaml 文件中的 classes 分类数，这会对模型产生影响。具体影响取决于以下几个方面：类别数量减少：如果你在继续训练时减少了 classes 中的类别数量，模型将不会再检测那些已移除的类别。这意味着模型的权重将被重新调整以适应新的类别数量和类别标签。这会导致以下问题：权重调整：模型会重新分配权重，原有的类别可能会受到影响。检测准确性：减少类别数量可能导致检测准确性降低，尤其是在剩余类别与被移除类别有特征重叠的情况下。
主干网络篇 | YOLOv5/v7 更换主干网络之 ShuffleNetv2 | 高效CNN架构设计的实用指南（2）
weixin_39818775的博客
07-06 1327
YOLOv5和YOLOv7是目前主流的轻量级目标检测模型，在速度和精度方面取得了良好的平衡。然而，传统的YOLOv5/v7模型使用FPN和CSPNet等结构作为主干网络，在移动设备和嵌入式系统等资源受限的场景中运行时可能存在效率较低的问题。为了解决这个问题，本文提出了一种使用ShuffleNetv2作为主干网络的YOLOv5/v7模型，该模型在移动设备和嵌入式系统上具有更高的推理速度和更低的内存消耗。YOLOv5/v7模型更换ShuffleNetv2主干。
yolov5 json 和 txt数据格式关系
weixin_41021342的博客
07-06 101
关于yolov5 数据格式一直以来都傻傻分不清楚，这下进行了一个梳理，做了笔记，也希望可帮助到有需要的有缘人~
YOLOv5、v7、v8如何修改检测框文字颜色和大小
Yayisheng的博客
07-08 166
YOLOv5和YOLOv8默认的标签文字颜色为白色，但是在亮度较大的图片中文字不明显，就需要对标签文字的颜色进行修改。
yolov5 训练过程中的监控指标说明
qq_32636415的博客
07-05 712
训练迭代次数，表示模型已经进行了多少轮的训练。这是模型训练的基本计数单位，对于跟踪训练进度至关重要。: 训练过程中边界框（bounding box）预测的损失值。这反映了模型在定位对象方面的能力。: 训练过程中对象存在性（objectness）预测的损失值。这涉及模型判断图像中是否存在特定对象的能力。: 训练过程中类别（classification）预测的损失值。这关注于模型识别对象类别的准确性。: 精确度，表示预测为正的样本中真正为正的比例。高精度表示模型具有较少的假阳性预测。
YOLOv10涨点改进｜引入BoTNet、Ghost与CA注意力机制，打造高效轻量级检测器
“365天深度学习训练营”报名进行中～
07-07 64
👉 独家改进，对现有YOLOv10进行二次创新，提升检测精度，适合科研创新度十足，强烈推荐🌟 统一使用 YOLOv10 代码框架，💥 本博客包含大量的改进方式，降低改进难度,改进点包含【Neck特征融合】【Head检测头】【注意力机制】【IoU损失函数】【NMS】【Loss计算方式】【自注意力机制】【数据增强部分】【标签分配策略】【激活函数】等各个部分。🔥 专栏创新点教程均有不少同学反应和我说已经在自己的数据集上有效涨点啦！！
YOLO-letter box
weixin_44656422的博客
07-04 301
letterbox的源代码中， stride默认是32，有个auto参数要注意，如果auto是true，它会给你最小能被32整除的大小来resize，就算我们给的resize是640*640，它最后给你的图可能是640*512，因为512就能被32整除了，然而onnx模型中，size是固定的640，所以我们就不能auto=True，不然尺寸不对，image_array格式的取[0]letterbox函数就是把图片弄到想要的大小，保持宽高比，然后少掉的部分，用灰边填充。
YOLOv8
ct1027038527的专栏
07-04 677
YOLOv8
YOLOv8改进 | 注意力机制 | 增强模型在图像分类和目标检测BAM注意力【小白必备 + 附完整代码】
kay_545
07-06 861
yolov8改进，yolov8添加注意力机制，yolov8，bam注意力机制，bamblock
YOLOV8模型训练各类参数设置全面详解
今晚打老虎的专栏
07-08 36
Ultralytics YOLOv8 的训练模式专为高效训练目标检测模型而设计，充分利用现代硬件功能。本文章在涵盖使用 YOLOv8 的强大功能集训练您自己的模型所需的所有细节。
yolov5怎么把权重yolov5s.pt换成yolov5m.pt
05-14
1. 下载yolov5m.pt权重文件，并将其保存到YOLOv5目录中的'weights'文件夹下。 2. 打开YOLOv5目录中的train.py文件，找到如下代码行： weights='yolov5s.pt', 将其替换为： weights='weights/yolov5m.pt', 3. ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小酒馆燃着灯

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值