YOLOv5、YOLOv7改进之二十九：引入Swin Transformer v2.0版本

已于 2022-11-29 11:32:03 修改
阅读量8.2k 收藏 24
点赞数 8
分类专栏： YOLO算法改进系列 首发创新改进方法 文章标签： transformer 深度学习 计算机视觉
于 2022-10-08 20:09:11 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_70388905/article/details/127214397
版权
本文探讨了在YOLOv7中引入Swin Transformer v2.0以增强目标检测算法的性能。通过在遥感数据集上的测试，证明了Swin Transformer模块能提升精度并降低参数量。相较于Swin Transformer v1.0，v2.0的改进包括使用post-norm操作、采用余弦相似度以及直接应用预训练权重。实验结果显示这种方法在目标检测网络如YOLOv7上有积极效果。
摘要由CSDN通过智能技术生成

 前 言：作为当前先进的深度学习目标检测算法YOLOv7，已经集合了大量的trick，但是还是有提高和改进的空间，针对具体应用场景下的检测难点，可以不同的改进方法。此后的系列文章，将重点对YOLOv7的如何改进进行详细的介绍，目的是为了给那些搞科研的同学需要创新点或者搞工程项目的朋友需要达到更好的效果提供自己的微薄帮助和参考。由于出到YOLOv7，YOLOv5算法2020年至今已经涌现出大量改进论文，这个不论对于搞科研的同学或者已经工作的朋友来说，研究的价值和新颖度都不太够了，为与时俱进，以后改进算法以YOLOv7为基础，此前YOLOv5改进方法在YOLOv7同样适用，所以继续YOLOv5系列改进的序号。另外改进方法在YOLOv5等其他算法同样可以适用进行改进。希望能够对大家有帮助。

具体改进办法请关注后私信留言！

解决问题：

       前面介绍改进YOLO算法，引入Swin transformer模块，本人在某遥感数据集上进行测试，替换主干网络后，确实有精度提升的效果，并且参数量降低了，相对于Botnet中的多头注意力机制来说，加入网络的性价比更高，也证明了Swin transformer模块的有效性和优越性。今年还出了Swin tran

了解本专栏 订阅专栏 解锁全文 超级会员免费看
人工智能算法研究院
关注
专栏目录
订阅专栏
YOLOv5 加入 swin-transformer
weixin_45303602的博客
07-26 1617
Swin-Transformer使用了层级式的骨干网络设计。从较小的Patch尺寸开始，每一阶段不断合并Patch，实现在不同阶段使用不同下采样率的特征图，从而可以输出多尺度的特征信息。
芒果YOLOv5改进89：主干篇：结合 Swin Transformer V2结构，Swin Transformer V2：通向视觉大模型之路
包括YOLOv5、YOLOv7、YOLOv8等模型改进
09-07 1万+
芒果YOLOv5改进：主干篇：结合 Swin Transformer V2结构，Swin Transformer V2：通向视觉大模型之路
YOLOV5 改进实战项目【更换backbone为Swin-Transformer】：农场乌鸡目标检测数据集
03-21
基于YOLOV5【更换backbone为Swin-Transformer】对农场乌鸡目标检测数据集的目标检测实战项目，包含代码、数据集、训练好的权重参数，经测试，代码可以直接使用 【数据集介绍】乌鸡图像数据，1类别：乌鸡 训练集datasets-images-train：400张图片和400个标签txt文件组成 测试集datasets-images-val：100张图片和100个标签txt文件组成 【yolov5】项目总大小：213MB 项目迭代了100个epoch，在runs目录下保存了训练结果，训练最好的精度map0.5=0.84，map0.5:0.95=0.42。训练过程中会生成验证集的混淆矩阵，PR曲线、F1曲线等等runs/detect目录下保存了网络推理训练集的全部结果，推理效果很好 更多yolov5改进介绍、或者如何训练，请参考： https://blog.csdn.net/qq_44886601/category_12605353.html
YOLOv10全网最新创新点改进系列：YOLOv10融合SwinTransformer模块，分辨率每层变成一半，而通道数变成两倍,有效提升小目标检测效果！
weixin_51692073的博客
07-22 1224
YOLOv10全网最新创新点改进系列：YOLOv10融合SwinTransformer模块，分辨率每层变成一半，而通道数变成两倍,有效提升小目标检测效果！
主干网络篇 | YOLOv5/v7 更换主干网络之 SwinTransformer | Vision Transformer using Shifted Windows
YOLOv8项目贡献者
04-13 5874
YOLOv5/v7 更换主干网络之 SwinTransformer
改进YOLO：YOLOv5结合swin transformer
m0_49534117的博客
11-26 647
在if __name__ == '__main__':中更改cfg。在parse_model(d, ch)函数中增加C3STR。
YOLOv7改进之二十五：引入Swin Transformer
m0_70388905的博客
09-03 8138
作为当前先进的深度学习目标检测算法YOLOv7，已经集合了大量的trick，但是还是有提高和改进的空间，针对具体应用场景下的检测难点，可以不同的改进方法。由于出到YOLOv7，YOLOv5算法2020年至今已经涌现出大量改进论文，这个不论对于搞科研的同学或者已经工作的朋友来说，研究的价值和新颖度都不太够了，为与时俱进，以后改进算法以YOLOv7为基础，此前YOLOv5改进方法在YOLOv7同样适用，所以继续YOLOv5系列改进的序号。希望能够对大家有帮助。最后，希望能互粉一下，做个朋友，一起学习交流。
改进YOLOv7系列：28.YOLOv7 结合 Swin Transformer V2结构，Swin Transformer V2：通向视觉大模型之路
热门推荐
包括YOLOv5、YOLOv7、YOLOv8等模型改进
09-07 1万+
目标检测科研Trick改进推荐 | 包括Backbone、Neck、Head、注意力机制、IoU损失函数、NMS、Loss计算方式、自注意力机制、数据增强部分、激活函数
在YOLOv5中添加Swin-Transformer模块
YanHS_的博客
02-09 1万+
提供了一个在YOLOv5代码中添加SwinTransformer相应模块的代码仓库，并对使用方法进行了简单介绍。
【YOLOv8改进】骨干网络： SwinTransformer (基于位移窗口的层次化视觉变换器）
m0_63430863的博客
06-20 837
本文提出了一种新型视觉，称为，它能够作为计算机视觉的通用骨干网络。将Transformer从语言领域适应到视觉领域时面临的挑战源于两个领域之间的差异，例如视觉实体的尺度变化大以及图像中像素的高分辨率相比文本中的单词。为了解决这些差异，我们提出了一种分层Transformer，其表示是通过移位窗口计算得出的。移位窗口方案通过将自注意力计算限制在非重叠的局部窗口内，同时也允许跨窗口连接，从而带来更高的效率。这种分层架构具有在不同尺度上建模的灵活性，并且其计算复杂度与图像大小呈线性关系。
我对Swin Transformer V2的理解
m0_58770526的博客
08-13 3861
本文提出一种升级版SwinTransformerV2，最高参数量可达3 Billion，可处理大尺寸图像。通过提升模型容量与输入分辨率，SwinTransformer在四个代表性基准数据集上取得了新记录。
yolov5_transformer:Yolov5带变压器
03-19
“＃yolov5_transformer”
yolov5目标检测模型 (融合transformer+已调参优化）
10-29
yolov5口罩检测，此模型已融合了attention机制，best.pt放在主目录下，考虑到训练时间使用的yolov5x，mAp96%左右，能够较高的识别人脸是否佩戴口罩，可以修改损失函数继续进行优化
YoloV8改进策略：BackBone改进|Swin Transformer赋能YoloV8，性能跃升的新篇章
最新发布
m0_47867638的博客
09-16 1192
计算机视觉建模长期以来一直由卷积神经网络 (CNN) 主导。从 AlexNet [38] 及其在 ImageNet 图像分类挑战中的革命性表现开始，CNN 架构通过更大的规模 [29, 73]、更广泛的连接 [33] 和更复杂的卷积形式 [67, 17, 81]。随着 CNN 作为各种视觉任务的骨干网络，这些架构的进步导致了性能改进，从而广泛提升了整个领域。另一方面，自然语言处理 (NLP) 中网络架构的演变采取了不同的路径，如今流行的架构是 Transformer [61]。
YOLOV8注意力改进方法：Deformable Attention Transformer（附改进代码）
m0_74890428的博客
04-08 1162
们提出了一种新的可变形的自注意模块，其中以数据相关的方式选择自注意中的键-值对的位置。这种灵活的方案使自注意模块能够专注于相关区域并捕获其特征。在此基础上，我们提出了Deformable Attention Transformer，这是一种用于图像分类和密集预测任务的具有可变形注意力的通用主干模型。大量实验表明，我们的模型在综合基准上取得了持续改进的结果。
【YOLOv7/YOLOv5系列改进NO.50】超越ConvNeXt！Conv2Former：用于视觉识别的Transformer风格的ConvNet
m0_70388905的博客
12-10 3146
涨点明显！超越ConvNeXt！Conv2Former：用于视觉识别的Transformer风格的ConvNet。
[YOLOv7/YOLOv5系列算法改进NO.40]轻量化mobileone主干网络引入
m0_70388905的博客
10-27 8609
YOLOv5、v7改进之四十：轻量化mobileone主干网络引入。
【YOLOv8改进】Swin Transformer V2网络结构与YOLOv8相结合
crasher123的博客
08-06 2374
通过以上改进思路和对应的代码修改，将Swin Transformer V2网络结构与YOLOv8相结合，分别在backbone和neck中引入了Swin Transformer块。这样做可以提升目标检测的精度和mAP，帮助模型更好地理解不同尺度和层级的特征，并提取更强大的特征表示。当然具体的改进方案还需要根据实际情况进行调整和优化，以适应不同的数据集和任务需求。
yolov7与swim transformer结合
08-10
YOLOv7与Swin Transformer V2的结合是一种新的目标检测算法模型。Swin Transformer V2是基于Transformer的新型模型结构，通过突破传统CNN的性能瓶颈，具有更好的扩展性和可解释性。我们通过在YOLOv7的backbone网络中集成Swin Transformer V2模块，形成了这个新的检测算法模型。经过在多个数据集上的测试，这个模型不仅保持了YOLOv7的高速和高精度特点，还进一步提升了性能。具体的改进细节可以参考相关的博文和论文。123 #### 引用[.reference_title] - *1* *3* [改进YOLOv7系列：YOLOv7与Swin Transformer V2的结合](https://blog.csdn.net/wellcoder/article/details/130935432)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}} ] [.reference_item] - *2* [改进YOLOv5系列：27.YOLOv5 结合 Swin Transformer V2结构，Swin Transformer V2：通向视觉大模型之路](https://blog.csdn.net/qq_38668236/article/details/126735107)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

人工智能算法研究院

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值