屠榜各大CV任务！Swin Transformer : 层次化视觉Transformer

最新推荐文章于 2024-08-08 08:23:21 发布
最新推荐文章于 2024-08-08 08:23:21 发布
阅读量1.7k 收藏 8
点赞数 1
分类专栏： Transformer 计算机视觉论文速递 backbone 文章标签： 人工智能 计算机视觉 机器学习 深度学习 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/amusi1994/article/details/115356224
版权
Swin Transformer是一种新型的视觉Transformer，源自微软亚洲研究院，用于解决计算机视觉任务。它采用分层结构和移动窗口计算，实现局部与全局注意力，高效处理不同尺度信息。在目标检测、实例分割和语义分割等领域取得显著效果，超越DeiT、ViT等模型，并在COCO和ADE20K数据集上创下了新纪录。代码和论文已开源。
摘要由CSDN通过智能技术生成

目标检测刷到58.7 AP（目前第一）！

实例分割刷到51.1 Mask AP（目前第一）！

语义分割在ADE20K上刷到53.5 mIoU（目前第一）！

性能优于DeiT、ViT和EfficientNet等主干网络，代码即将开源！

注1：文末附【Transformer】交流群

注2：整理不易，欢迎点赞，支持分享！

想看更多CVPR 2021论文和开源项目可以点击：

https://github.com/amusi/CVPR2021-Papers-with-Code

Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

在这里插入图片描述

  • 作者单位：微软亚洲研究院
  • 代码：https://github.com/microsoft/Swin-Transformer
  • 论文：https://arxiv.org/abs/2103.14030

本文介绍了一种称为Swin Transformer的新型视觉Transformer，它可以用作计算机视觉的通用backbone。在两个领域之间的差异，例如视觉实体尺度的巨大差异以及与文字中的单词相比，图像中像素的高分辨率，带来了使Transformer从语言适应视觉方面的挑

最低0.47元/天 解锁文章
Amusi（CVer）
关注
专栏目录
【深度学习】Swin Transformer: Hierarchical Vision Transformer using Shifted Windows，论文
q742971636的博客
08-02 174
本文介绍了一种名为Swin Transformer的新型视觉Transformer，它可以作为计算机视觉的通用骨干。将Transformer从语言领域应用到视觉领域面临着挑战，因为两个领域之间存在差异，比如视觉要素的尺度变化很大，图像中的像素分辨率与文本中的单词相比较高。为了解决这些差异，我们提出了一种层次化Transformer，其表示是使用移位窗口计算的。移位窗口方案通过将自注意力计算限制在非重叠的局部窗口内，提高了效率，同时也允许窗口间的连接。
Swin Transformer 实现图像分类
05-29
Swin Transformer 实现图像分类完整代码，拿走即用，路径都是相对路径不用改，自带预训练权重和数据集，不懂可以交流，随随便便参加比赛项目，毕业设计等。
Swin Transformer：层次化视觉Transformer
Change ZH的博客
07-05 1307
Swin Transformer：层次化视觉Transformer
Swin Transformer 在语义分割中的实现教程
最新发布
gitblog_00223的博客
08-08 983
Swin Transformer 在语义分割中的实现教程 Swin-Transformer-Semantic-SegmentationThis is an official implementation for "Swin Transformer: Hierarchical Vision Transformer using Shifted Windows" on Semantic Segment...
【深度学习 十】swin transformer：屠榜各大cv比赛
weixin_45140119的博客
09-24 625
概要 Swin transformer: Hierarchical Vision Transformer using Shifted Windows，是微软2021.03.25公布的一篇利用transformer架构处理计算机视觉任务的论文。在图像分割，目标检测各个领域已经霸榜，让很多人看到了transformer完全替代卷积的可能。而且它的设计思想吸取了resnet的精华，从局部到全局，将transformer设计成逐步扩大感受野的工具。 论文链接https://arxiv.org/abs/2103.
屠榜目标跟踪！SwinTrack：Transformer跟踪的简单而强大的基线
阿木寺的博客
12-11 6112
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达SwinTrack: A Simple and Strong Baseline for Transformer Trac...
CVPR 2022 | Transformer再屠榜！南大提出MixFormer：端到端目标跟踪新网络
阿木寺的博客
03-23 5245
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达作者：王利民 |已授权转载（源：知乎）编辑：CVerhttps://zhuanlan.zhihu.com/p/485189978本文介绍一下我们在单目标跟踪(VOT)领域的新工作MixFormer——基于 transformer 的简洁的端到端模型。MixFormer打破了传统的跟踪范式，通过模板...
Swin Transformer: Hierarchical Vision Transformer using Shifted Windows
weixin_56836871的博客
02-06 2489
动机： 为啥挑这篇文章，因为效果炸裂，各种改款把各种数据集霸榜了：语义分割/分类/目标检测，前10都有它 Swin Transformer, that capably serves as a general-purpose backbone for computer vision. 【CC】接着VIT那篇论文挖的坑，transfomer能否做为CV领域的backbone，VIT里面只做了分类的尝试，留了检测/语义分割的坑，这篇文章直接回答swin transfomer可以 Transformer from
Swin Transformer详解: Hierarchical Vision Transformer using Shifted Windows
qq_45122568的博客
05-16 9928
这篇文章使用和CNN类似的分层提取特征，来达到扩大感受野的效果。是一个特征提取的主干网络，backbone。分层特征提取，不断减小“feature map”的大小（token的数量）。关键部分是Shift window移动窗口（W-MSA、SW-MSA）ViT中使用不重叠的窗口，但是忽略了相邻窗口间的相关性，而Swin-T使用shfit windown移动（M/2）来弥补。但这样会引入很大的计算量，那么作者又提出了cyclic-shift 循环位移，保证计算量不变，但是这样的移动会使得相邻窗口间不相关的部.
通俗理解swin transformer
qq_28057379的博客
07-14 2395
https://zhuanlan.zhihu.com/p/362672090 简单易懂
Swin-Transformer:基于通用变压器的视觉骨干
03-30
变形金刚 作者：*，*，*，*，，，和。 此回购协议是的正式实现。 该代码即将推出。 介绍 Swin Transformer最初在描述，它可以用作计算机视觉的通用骨干。 在两个领域之间的差异，例如视觉实体规模的巨大差异以及与文字中的单词相比，图像中像素的高分辨率，带来了使Transformer从语言适应视觉方面的挑战。 为了解决这些差异，我们提出了一个分层的Transformer，其表示是通过移动窗口来计算的。 通过将自注意计算限制为不重叠的局部窗口，同时允许跨窗口连接，移位的窗口方案带来了更高的效率。 这种分层体系结构具有在各种规模上建模的灵活性，并且相对于图像大小具有线性计算复杂性。 Swin变形金刚的这些品质使其可与多种视觉任务兼容，包括图像分类（ImageNet-1K的准确度为86.4最高-1）和密集的预测任务，例如目标检测（COCO测试中为58.7箱式AP和51.1遮罩式AP）
Swin Transformer 代码学习笔记(目标检测)
athrunsunny的博客
05-23 9178
为了方便将img_scale设置为[(224,224)]，此时的数据集中的图片会进行resize，并且将短边padding成32的倍数，按最长边与224的比例缩放最短边，即 x=短边 / (500/224)，x即为缩放后的实际长度，比如输入时500*287（w*h）的图片，缩放后的短边长为287 * 224 / 500 = 129，由于输入的图像尺寸需要是32的倍数，此时需要向上取整，所以padding后的短边长为160。接下来把这部分代码拆分出来解读。主体位于SwinTransformer类中。
【Swin Transformer】Win10使用Swin Transformer做语义分割 (使用自己的数据集 + 图解超详细)
零碎@流年絮语 的博客
05-30 3428
【Swin Transformer】Win10使用Swin Transformer做语义分割 (使用自己的数据集 + 图解超详细)
Swin-Transformer 图像分割实战：使用Swin-Transformer-Semantic-Segmentation训练ADE20K数据集（语义分割）
m0_60575487的博客
04-18 1170
书籍的好处就在于权威和体系健全，刚开始学习的时候你可以只看视频或者听某个人讲课，但等你学完之后，你觉得你掌握了，这时候建议还是得去看一下书籍，看权威技术书籍也是每个程序员必经之路。Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。如果不要按照我配置的路径配置，可以在这里修改路径。光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。
深度学习网络模型————Swin-Transformer详细讲解与代码实现
guoqingru0311的博客
02-10 9074
经典网络模型系列——Swin-Transformer详细讲解与代码实现
Swin-Transformer 图像分割实战：使用Swin-Transformer-Semantic-Segmentation训练ADE20K数据集（语义分割
2401_83739951的博客
04-01 843
github地址：https://github.com/SwinTransformer/Swin-Transformer-Semantic-SegmentationUbuntu20.04环境配置Ubuntu的环境配置相对简单一些，1、创建虚拟环境2、安装pytorch根据电脑的cuda版本选择pytorch，我试了1.6.0版本的可以。其他的版本在安装mmcv的时候有可能会出现问题。3、安装mmcv-full。
Swin Transformer详解
我的博客
04-28 7368
原创：余晓龙 “Swin Transformer: Hierarchical Vision Transformer using Shifted Window”是微软亚洲研究院（MSRA）发表在arXiv上的论文，文中提出了一种新型的Transformer架构，也就是Swin Transformer。本文旨在对Swin Transformer架构进行详细解析。 一、Swin Transformer网络架构 整体的网络架构采取层次化的设计，共包含4个stage,每个stage都会缩小输入特征图的分辨率，类似于
深度学习SwinTransformer目标检测环境搭建
11-06 8300
提示我们需要将pipline中的“ImgeToTensor”换成“DefaultFormatBundle”，文件夹指引configs——>base——>datasets——>coco_detection.py，按ctrl+F进行搜索“test_pipeline”,将transforms下的“ImageToTensor”改为“DefaultFormatBundle”，然后删除后面的 keys=[‘img’]。这里有个需要注意的，使用的是ubuntu虚拟机，所以无法显示，所以修改了下代码，把结果保存下来。
Swin Transformer：层次化视觉Transformer与Shifted窗口方法
"Swin Transformer是基于Transformer架构的层次化视觉模型，用于解决视觉实体尺度变化和高分辨率像素问题。该模型结合Shifted Window方法，提高了计算效率并适用于各种视觉任务，如图像分类、目标检测和语义分割。" ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值