YOLOv7改进：BoTNeT（Bottleneck Transformer）

最新推荐文章于 2024-06-25 09:03:49 发布
最新推荐文章于 2024-06-25 09:03:49 发布
阅读量819 收藏 14
点赞数
分类专栏： yolov5/7/8/9系列独家改进 YOLOv9/v10独家改进，每周持续更新 文章标签： 人工智能 深度学习 YOLO 计算机视觉 目标检测
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45303602/article/details/133711225
版权
本文介绍了如何将BoTNet应用于YOLOv7，通过将ResNet最后三个bottleneck模块的卷积替换为全局的Multi-Head Self-Attention（MHSA），在COCO上提高了目标检测精度1.2%，并在实例分割任务中对小物体检测有显著提升。文章详细阐述了BoTNet的设计原理和实现步骤，并指出其简洁性使其成为未来视觉任务研究的潜在backbone。
摘要由CSDN通过智能技术生成

 目录

1.简介

2.YOLOv7改进：BoTNeT

2.1增加以下yolov7_botnet.yaml文件

 2.2 common.py配置

2.3 yolo.py配置修改

1.简介

论文地址 

 Paper

 

 

本文提出的BoTNet是一种简单高效的网络，有效的将SA应用到多种视觉任务，如图像识别、目标检测、实例分割任务。通过将ResNet50中最后三个bottleneck模块的空间卷积替换为全局的SA操作，有效提升了基线模型在签署任务上的性能。

Section I
常用的CNN大多采用3x3的卷积核，鉴于卷积操作可以有效的不糊哦局部信息，但是对于一些视觉任务如目标检测、实例分割、关键点检测还需要建立长程依赖关系。比如实例分割中需要收集场景相关的信息才能学习物体之间的关系；那么为了吧局部信息聚合就需要堆叠多个卷积层。但基于non-local操作可以更有效，也不需要堆叠那么多层。
而建模长程依赖对NLP任务也十分重要，Self-Attention可以有效学习每一对实体之间的关联，基于SA组成的Transformer已经成为NLP

了解本专栏 订阅专栏 解锁全文
陈子迩
关注
专栏目录
订阅专栏
YOLOv7改进：CBAM注意力机制
weixin_45303602的博客
09-28 2453
CBAM注意力机制是由通道注意力机制（channel）和空间注意力机制（spatial）组成。 传统基于卷积神经网络的注意力机制更多的是关注对通道域的分析，局限于考虑特征图通道之间的作用关系。CBAM从 channel 和 spatial 两个作用域出发，引入空间注意力和通道注意力两个分析维度，实现从通道到空间的顺序注意力结构。空间注意力可使神经网络更加关注图像中对分类起决定作用的像素区域而忽略无关紧要的区域，通道注意力则用于处理特征图通道的分配关系，同时对两个维度进行注意力分配增强了注意力机制对模型性能
YOLOv7改进：RepVGG结构
weixin_45303602的博客
10-05 1338
我们所说的“VGG式”指的是：没有任何分支结构。即通常所说的plain或feed-forward架构。仅使用3x3卷积。仅使用ReLU作为激活函数。主要创新点为结构重。在训练时，网络的结构是多分支进行的，而在推理时则将分支的参数进行重参数化，合为一个分支来进行的，所以推理的速度要比多分支网络快很多，并且精度也比单分支的网络更高。
YOLOv10全网最新创新点改进系列：YOLOv10融合BoTNet模块，融合CNN+自然语言处理技术的优势，有效提升检测效果！
最新发布
weixin_51692073的博客
06-25 352
YOLOv10全网最新创新点改进系列：YOLOv10融合BoTNet模块，融合CNN+自然语言处理技术的优势，有效提升检测效果！
YOLOv7改进：结合CotNet Transformer结构
weixin_45303602的博客
09-30 739
京东AI研究院提出的一种新的注意力结构。将CoT Block代替了ResNet结构中的3x3卷积，在分类检测分割等任务效果都出类拔萃论文：Contextual Transformer Networks for Visual Recognition有自注意力的Transformer引发了自然语言处理领域的革命，最近还激发了Transformer式架构设计的出现，并在众多计算机视觉任务中取得了具有竞争力的结果。
YOLOV7改进-添加注意力机制
m0_46700884的博客
07-05 4119
注意力机制一般加在backbone或者是PAN层。，配合yolov7.yaml的文件来结合看！1、在github主页中找到SE.py注意力模块。
YOLOv7改进：CotNet Transformer
一个会写点代码的dragon
12-02 1104
有自注意力的Transformer引发了自然语言处理领域的革命，最近还激发了Transformer式架构设计的出现，并在众多计算机视觉任务中取得了具有竞争力的结果。在今天分享的工作中，研究者设计了一个新颖的Transformer风格的模块，即Contextual Transformer (CoT)块，用于视觉识别。同样，当我们读一句话时，大脑也会首先记住重要的词汇，这样就可以把注意力机制应用到自然语言处理任务中，于是人们就通过借助人脑处理信息过载的方式，提出了Attention机制。
YOLOv5、YOLOv8改进：BoTNet Transformer
weixin_45303602的博客
08-30 1705
本文提出的BoTNet是一种简单高效的网络，有效的将SA应用到多种视觉任务，如图像识别、目标检测、实例分割任务。通过将ResNet50中最后三个bottleneck模块的空间卷积替换为全局的SA操作，有效提升了基线模型在签署任务上的性能。Section I常用的CNN大多采用3x3的卷积核，鉴于卷积操作可以有效的不糊哦局部信息，但是对于一些视觉任务如目标检测、实例分割、关键点检测还需要建立长程依赖关系。比如实例分割中需要收集场景相关的信息才能学习物体之间的关系；
改进YOLO：YOLOv5结合BoTNet Transformer
weixin_44280747的博客
11-23 4097
YOLOv5结合BoTNet Transformer
基于BoTNet-Transformer的改进YOLOv7的水果识别系统
04-28
随着人工智能技术的快速发展，计算机视觉领域的研究...BoTNet-Transformer是一种新兴的深度学习模型，它结合了Bottleneck Transformer和YOLOv7的优点，能够更好地处理水果识别任务中的挑战。 首先，BoTNet-Transformer
yolov7改进--添加CBAM模块（注意力机制）
u012661539的博客
06-06 3051
【代码】改进yolov7--添加CBAM模块（注意力机制）
YOLOV7改进：加入RCS-OSA模块，提升检测速度
m0_51530640的博客
08-15 667
凭借速度和精度之间的良好平衡，前沿的YOLO框架已成为最有效的目标检测算法之一。然而，使用YOLO网络在脑肿瘤检测中的性能研究很少。提出了一种新的基于信道Shuffle的重参数化卷积YOLO架构(RCS-YOLO)。我们提出了RCS和RCS的一次聚合(RCS- osa)，将特征级联和计算效率联系起来，以提取更丰富的信息并减少时间消耗。在脑肿瘤数据集Br35H上的实验结果表明，该模型在速度和精度上均优于YOLOv6、YOLOv7和YOLOv8。
YOLOv7改进之strSPPCSPC
weixin_47060902的博客
11-09 438
YOLOv7改进之strSPPCSPC
YOLOv7改进轻量化,引入轻量化骨干网络MobileOne
datayx的文章
10-30 830
向AI转型的程序员都关注了这个号????????????一、前言MobileOne论文：https://arxiv.org/abs/2206.04040MobileOne github：https://github.com/apple/ml-mobileone二、基本原理使用Reparameterize重参数化实现模型的轻量化，基本模块如下图所示。三、改进方法说明：该部分的改进代码尽可能地根据官方代码的写法与YOL...
YOLOv7改进：在不同位置添加biformer
m0_51530640的博客
04-15 2242
为了缓解多头自注意力()的可扩展性问题，先前的一些方法提出了不同的稀疏注意力机制，其中每个查询只关注少量的键值对，而非全部。为此，作者探索了一种动态的、查询感知的稀疏注意力机制，其关键思想是在粗糙区域级别过滤掉大部分不相关的键值对，以便只保留一小部分路由区域（这不就把冗余的信息干掉了吗老铁们）。其次，作者在这些路由区域的联合中应用细粒度的注意力。本文以yolov7-tiny.yaml为基础网络结构进行修改，尝试将注意力机制添加到不同的位置。CBAM的原理不在赘述，直接开始代码修改。
bottleneck transformer(botnet)
09-14
Bottleneck Transformer（BoTNet）是一种融合了卷积神经网络（CNN）和自注意力机制（Self-Attention）的网络结构。它在Multi-Head Self-Attention结构前后加上1×1卷积，与ViT中的Transformer block有一定的相似性。 BoTNet的主要结构包括： 1. Multi-Head Self-Attention（MHSA）：这是BoTNet的关键组件，用于捕捉输入序列中的全局依赖关系。通过对输入序列进行多头自注意力计算，能够有效地对不同位置之间的关系进行建模。这一部分与ViT中的Transformer block类似。 2. Bottleneck结构：BoTNet引入了Bottleneck结构，即在MHSA结构前后加上了1×1卷积。这样的设计能够减小计算量并提高模型的效率。同时，这种结构也使得BoTNet与具有MHSA的ResNet bottleneck block有一定的相似性，但在残差连接、标准化层等方面存在微小的差异。 总之，Bottleneck Transformer（BoTNet）是一种融合了CNN和Self-Attention的网络结构，通过MHSA和Bottleneck结构的组合实现了对输入序列的建模和特征提取。它与ViT中的Transformer block有一定的相似性，并且可以看作是具有Bottleneck结构的Transformer block。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

陈子迩

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值