YoloV8改进策略：注意力篇|BackBone改进|附结构图|自研基于xLSTM的注意力（全网首发）

已于 2024-07-02 06:18:27 修改
阅读量1.4k 收藏 3
点赞数 34
分类专栏： 2024年YoloV8改进创新指南 (2025年最新改进)YoloV8涨点改进——高阶篇 文章标签： YOLO
于 2024-07-02 05:40:33 首次发布
不能复制，转发
本文链接：https://blog.csdn.net/m0_47867638/article/details/140115207
版权

文章目录

摘要

本文使用Vision-LSTM的xLSTM改进YoloV8的BackBone结构，增加自研的注意力机制，取得了不错的得分。如果大家想发顶会，或者比较好的期刊，可以优先考虑！

论文：《Vision-LSTM: xLSTM 作为通用视觉主干》

尽管Transformer最初是为自然语言处理引入的，但它现在已经被广泛用作计算机视觉中的通用主干结构。最近，长短期记忆（LSTM）已被扩展为一种可扩展且性能优越的架构——xLSTM，它通过指数门控和可并行化的矩阵内存结构克服了LSTM长期以来存在的限制。在本报告中，我们介绍了Vision-LSTM（ViL），它是将xLSTM构建块应用于计算机视觉的一种适配。ViL由一系列xLSTM块组成，其中奇数块从上到下处理补丁标记的序列，而偶数块则从下到上处理。实验表明，ViL有望作为计算机视觉架构的新通用主干进一步部署。

项目页面: https://nx-ai.github.io/vision-1stm/

1、引言

语言建模架构，如Transformer [39,1,33] 或最近的状态空间模型（State Space Models） [16, 17] 如Mamba [15]&

了解本专栏 订阅专栏 解锁全文
YoloV8改进策略：注意力篇|BackBone改进|自研像素和通道并行注意力模块（独家原创）
m0_47867638的博客
06-15 1259
本文使用FFA-Net的注意力改进YoloV8，FFA-Net提出了通道注意力和像素注意力相结合的方式，提高Block的表征能力，我把这两种注意力结合起来改进YoloV8的Bottleneck,取得了非常好的效果，即插即用，简单易懂，非常适合大家入手。
YoloV9改进策略：注意力篇|BackBone改进|附结构图|自研基于xLSTM的注意力（全网首发）
m0_47867638的博客
07-03 900
本文使用Vision-LSTM的xLSTM改进YoloV9的BackBone结构，增加自研的注意力机制，取得了不错的得分。如果大家想发顶会，或者比较好的期刊，可以优先考虑！
Vision-LSTM: xLSTM 作为通用视觉主干
m0_47867638的博客
06-10 1423
尽管Transformer最初是为自然语言处理引入的，但它现在已经被广泛用作计算机视觉中的通用主干结构。最近，长短期记忆（LSTM）已被扩展为一种可扩展且性能优越的架构——xLSTM，它通过指数门控和可并行化的矩阵内存结构克服了LSTM长期以来存在的限制。在本报告中，我们介绍了Vision-LSTM（ViL），它是将xLSTM构建块应用于计算机视觉的一种适配。ViL由一系列xLSTM块组成，其中奇数块从上到下处理补丁标记的序列，而偶数块则从下到上处理。
LSTM再创新高：xLSTM、Vision-LSTM与混合架构引领SOTA新纪元
百态老人的博客
11-14 1197
Vision-LSTM（ViL）模型的训练过程如下：首先，在安装包方面，安装 timm 使用“pip install timm”命令，因为 mixup 增强和 EMA 会用到 timm。数据增强方面，为提高成绩在代码中加入 Cutout 和 Mixup 这两种增强方式，安装 torchtoolbox 可实现这两种增强，安装命令为“pip install torchtoolbox”。
LSTM杀入视觉！Vision-LSTM：全新的通用视觉主干！
阿木寺的博客
06-08 1368
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达重磅！端午节特惠！CVer学术星球最大优惠！赠送新用户50元优惠券(下方左图)，老用户7折+20元续费券(下方右图)，每天分享最新最优质的AI/CV内容，涨点idea非常多，最强助力你的科研和工作！还没加入/续费的同学快扫码加入！转载自：机器之心 | 编辑：鸭梨、蛋酱与 DeiT 等使用 ViT 和 Vision-Mamba (V...
Vision-LSTM：开启视觉理解新视角
gitblog_00230的博客
08-16 728
Vision-LSTM：开启视觉理解新视角 项目地址:https://gitcode.com/gh_mirrors/vi/vision-lstm Vision-LSTM（ViL）是计算机视觉领域的一个创新性开源项目，它是对xLSTM的适应性改进版本，由NX-AI团队提供Pytorch实现和预训练模型。该项目旨在利用长时序的记忆机制来增强深度学习模型对于复杂视觉场景的理解。 项目简介 Vision-...
（2024，Vision-LSTM，ViL，xLSTM，ViT，ViM，双向扫描）xLSTM 作为通用视觉骨干
qq_44681809的博客
06-08 1535
ViL 将 xLSTM 架构应用于视觉任务。它首先通过共享的线性投影将图像分割成不重叠的补丁，然后为每个补丁标记添加可学习的位置嵌入。它交替地处理补丁标记序列。奇数模块按行从左上角处理到右下角，而偶数模块从右下角处理到左上角。相比于 ViT 和 ViM，ViL 有一致地更好的性能。
EfficientVMamba实战：使用 EfficientVMamba实现图像分类任务（二）
AI浩
04-02 3523
训练部分。
YoloV8改进策略：主干网络篇|MobileNetV4主干替换YoloV8的BackBone（独家原创）
m0_47867638的博客
06-08 2580
今年，轻量级王者MobileNetV4闪亮登场！在我们这篇文章里，我们把MobileNetV4加入到了YoloV8中，替换原有的BackBone。哈哈，你猜怎么着？效果超赞！文章里详细记录了改进过程，给那些正在为创新点子发愁的小伙伴们提供了满满的灵感。嘿，想要发表关于轻量级改进的论文？这篇文章绝对是你的首选参考！
YoloV8改进策略：注意力改进|BackBone改进|自研全新的Mamba注意力|即插即用，简单易懂|附结构图|检测、分割、关键点均适用（独家原创，全世界首发）
m0_47867638的博客
04-19 1067
无Mamba不狂欢，本文打造基于Mamba的注意力机制。全世界首发基于Mamba的注意力啊！对Mamba感兴趣的朋友一定不要错过啊！本文使用Mamba改进YoloV8的Block和BackBone实现涨点。
visionLSTM-xLSTM
08-22
【新研究发布】Vision-LSTM：重塑视觉领域的LSTM架构！ 你还在用Transformer做视觉任务吗？Vision-LSTM（ViL）震撼来袭，将扩展型LSTM（xLSTM）引入计算机视觉领域，性能卓越！ ViL通过交替的xLSTM块设计，实现了图像的非顺序高效处理，无论是分类还是语义分割，都展现出强劲的实力！ 实验结果显示，ViL在ImageNet-1K、ADE20K和VTAB-1K等多个基准测试中表现优异，甚至在结构化数据集上超越了优化多年的Transformer模型！ ViL的交替块设计不仅提升了性能，还保持了计算和参数的效率，未来潜力无限！ #VisionLSTM #深度学习 #计算机视觉 #xLSTM #新研究 #AI前沿
Vision-LSTM（ViL）实战：使用Vision-LSTM（ViL）实现图像分类任务
06-11
Vision-LSTM（ViL）架构的核心是xLSTM块。每个xLSTM块都包含一个输入门、一个遗忘门、一个输出门和一个内部记忆单元。与传统的LSTM相比，xLSTM引入了指数门控机制，使得模型能够更好地处理长序列数据。同时，xLSTM采用可并行化的矩阵内存结构，提高了模型的计算效率。 原文链接：https://blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/139582259
Hiera实战：使用Hiera实现图像分类任务（一）
AI浩
11-27 1658
现代层次视觉变换器在追求监督分类表现时增加了几个特定于视觉的组件。这些组件虽然带来了有效的准确性和吸引人的FLOP计数，但增加的复杂性实际上使这些变换器比普通ViT更快。作者认为这种额外的体积是不必要的。通过使用强大的视觉预训练任务(MAE)进行预训练，可以从最先进的多阶段视觉变换器中去除所有花里胡哨的东西，同时不会丢失准确性。在此过程中，作者创建了Hiera，这是一种极其简单的层次视觉变换器，它比以前的模型更准确，同时在推理和训练过程中都明显更快。在各种任务上评估了Hiera对于图像和视频识别的表现。
YOLOV7改进-添加注意力机制
m0_46700884的博客
07-05 4944
注意力机制一般加在backbone或者是PAN层。，配合yolov7.yaml的文件来结合看！1、在github主页中找到SE.py注意力模块。
YOLOv7改进注意力机制系列：最新结合即插即用CA(Coordinate attention) 注意力机制(适用于YOLOv5)，CVPR 2021 顶会助力分类检测涨点！
热门推荐
包括YOLOv5、YOLOv7、YOLOv8等模型改进
11-06 2万+
在本文中，将YOLO系列模型结合一种新的移动网络注意机制，将位置信息嵌入到通道注意中，称之为“坐标注意力”。与通过 2D 全局池化将特征张量转换为单个特征向量的通道注意不同，坐标注意将通道注意分解为两个 1D 特征编码过程，分别沿两个空间方向聚合特征。
ViT (Vision Transformer) ----LSTM网络
进击的菜鸟
12-22 1927
LSTM是对RNN的改进，主要改进RNN的梯度消失的问题即长依赖问题，那么具体如何解决的呢？ 由上图可以发现增加了三个门，那么这三个门是如何解决长依赖问题的呢？LSTM最大的设计就是传输带C，就是通过传输带的设计避免梯度的消失，lstm存在很多门，可以让信息选择性通过 遗忘门 举个例子 得到遗忘门的输出f后，在和传输带的c向量相乘 那么遗忘门的功能主要体现在哪里呢？通过例子可以看出，遗忘门的输出f是0-1的概率值，乘上传输带c就可以控制传输带信息的流入量，该f值的获取荣光如下
YOLOv9改进策略【注意力机制篇】| NAM 即插即用模块，重新优化通道和空间注意力
Limiiiing的博客
09-25 210
本文记录的是基于NAM模块的YOLOv9目标检测改进方法研究。 许多先前的研究专注于通过注意力操作捕获显著特征，但缺乏对权重贡献因素的考虑，而这些因素能够进一步抑制不重要的通道或像素。而本文利用改进，通过权重的贡献因素来改进注意力机制，提高模型精度。NAM: Normalization-based Attention Module注意力模块的设计的原理和优势如下：​Bin​−μB​​+β，其中μB\mu_{B}μB​和σB\sigma_{B}σB​分别是小批量BBB的均值和标准差；γ\gammaγ和β\be
Vision-LSTM 项目使用指南
gitblog_00944的博客
08-16 445
Vision-LSTM 项目使用指南 vision-lstmxLSTM as Generic Vision Backbone项目地址:https://gitcode.com/gh_mirrors/vi/vision-lstm 1. 项目的目录结构及介绍 Vision-LSTM 项目的目录结构如下： vision-lstm/ ├── docs/ │ └── ... ├── logs/ │ ...
国内警车检测数据集VOC+YOLO格式2874张1类别
最新发布
FL1623863129的博客
05-10 120
数据集格式：Pascal VOC格式+YOLO格式(不包含分割路径的txt文件，仅仅包含jpg图片以及对应的VOC格式xml文件和yolo格式txt文件)特别声明：本数据集不对训练的模型或者权重文件精度作任何保证，数据集只提供准确且合理标注。标注类别名称:["policecar"]policecar 框数 = 3765。图片数量(jpg文件个数)：2874。标注数量(xml文件个数)：2874。标注数量(txt文件个数)：2874。使用标注工具：labelImg。标注规则：对类别进行画矩形框。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI智韵

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值