Swin Transformer简述（图像分类篇)

已于 2022-07-28 11:27:53 修改
阅读量2.9k 收藏 8
点赞数 2
文章标签： transformer 分类 深度学习
于 2022-01-24 21:01:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_47397155/article/details/122674454
版权

文章是对博主视频讲解的一些总结。
原博主链接：https://blog.csdn.net/qq_37541097?spm=1001.2014.3001.5509
原论文链接：https://arxiv.org/abs/2103.14030

1.预言

Swin Transformer来自2021年，出自微软团队之手。就是牛，屠榜的存在。
在这里插入图片描述

2.分析

2.1 Patch Merging

在这里插入图片描述

2.2 W-MSA

  • 目的：减少计算量
  • 缺点：窗口之间无法进行信息交互

在这里插入图片描述
在这里插入图片描述

要是加入降维的结构（减少参数量）
在这里插入图片描述

2.3 Shifted Window

实现不同Window之间的 信息交互
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2.4 Relative position bias

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

3.网络结构介绍

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

栋哥爱做饭
关注
  • 2
    点赞
  • 踩
  • 8
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
Swin Transformer实战：使用 Swin Transformer实现图像分类。
m0_61409092的博客
04-12 1124
这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。最近我才对这些路线做了一下新的更新，知识体系更全面了。
Pytorch之SwinTransformer图像分类
风间琉璃的博客
10-11 3170
`Swin Transformer`(Liu et al., 2021) 是一种基于视觉Transformer的层次化模型。与之前的Vision Transformer相比，Swin Transformer采用了层次化构建方法，使用`不同倍数的下采样`来构建特征图，并在每个窗口内使用`Windows Multi-Head Self-Attention(W-MSA)`进行注意力计算。这种方法既减少了计算量，尤其是在浅层特征图较大时，又能在相邻窗口之间`传递信息`。
2024年最新Swin Transformer实战：使用 Swin Transformer实现图像分类。
最新发布
2301_82243883的博客
05-02 1176
CUDA版本：11.22、创建虚拟环境swin。
Transformer 在医学图像分类中的应用
Warmer_Sweeter
03-01 1121
这篇文章的重点是Vision Transformer（ViT）及其在实际问题中的应用。Transformer架构已经成为自然语言处理任务的事实标准。什么是Vision Transformer（ViT）？ViT架构基于图像表示，将图像表示为一组补丁。图像补丁是大小为16x16像素的非重叠图像块。例如，在分辨率为224x224的图像中，有(224 / 16) (224 / 16) = 14 14 =...
python基于transformer进行图像分类
weixin_42593549的博客
02-12 563
Python 可以使用 Transformer 模型进行图像分类。Transformer 模型是一种非常流行的深度学习模型，主要用于处理序列数据，例如文本。但它也可以用于图像分类。 为了使用 Transformer 进行图像分类，需要将图像转换为特征向量，再将其作为输入传递给 Transformer 模型。然后，模型会计算特征向量的权重，并使用这些权重对图像进行分类。 虽然使用 Transform...
Swin-transformer训练自己的数据集，图像分类
点我
07-05 1万+
官方swin-transformer目前只支持训练imageNet，其次加载预训练有点东西，想要训练自己的数据集需要稍微改改代码，为了方便使用，我将改好的上传到github，大家仅需要自己修改参数即可使用。github:https://github.com/sunanlin13174/Image-train-Swin-transformer 我的数据集是图案比较丰富的，但是部分类或者数据集本身数据不多，因此在官方已有数据增强：亮度、对比度、饱和度变化、mixup、裁剪等基础上，添加了上下左右中心裁剪并翻.
swin_transformer用于做图像分类（已跑通）
qq_45893319的博客
12-20 9969
B站大佬：霹雳吧啦Wz视频：12.2 使用Pytorch搭建Swin-Transformer网络 讲解链接：https://www.bilibili.com/video/BV1yg411K7Yc?spm_id_from=333.999.0.0 swin_transformer用于做图像分类的任务链接： https://github.com/Ydjiao/deep-learning-for-image-processing/tree/master/pytorch_classification/swin_tra
Swin Transformer 实现图像分类
05-29
Swin Transformer 是一种基于Transformer架构的深度学习模型，由Pengchao Zhang等人在2021年提出，主要用于计算机视觉任务，如图像分类、目标检测和语义分割。相较于传统的卷积神经网络（CNN），Swin Transformer ...
Swin Transformer实战：timm中的 Swin Transformer实现图像分类（多GPU）。
02-22
本例提取了植物幼苗数据集中的部分数据做数据集，数据集共有12种类别，演示如何使用timm版本的Swin Transformer图像分类模型实现分类任务已经对验证集得分的统计，本文实现了多个GPU并行训练。 通过本文你和学到： ...
使用swin_transformer做自己数据集的图像分类
04-30
使用的数据集共有5种类别，使用Swin-T预训练模型进行训练。
swin transformer权重
08-11
对于Swin Transformer，权重分配在各个层之间，包括嵌入层、Transformer块、线性投影层以及分类或回归头等。这些权重在训练过程中不断调整，以最小化预测与真实标签之间的差异，即损失函数。预训练权重提供了良好的...
Swin-Transformer:这是“变形金刚”的官方实现
05-10
变形金刚 作者：*，*，*，*，，，和。 此回购协议是的正式实现。 当前，它包含用于以下任务的代码和模型： 图像分类：包含在此仓库中。 有关快速，请参见 。 对象检测和实例分割：有关对象检测，请参见 。 语义分割：有关语义分割的信息，请参见 。 更新 2021年4月12日 初始提交： 提供了ImageNet-1K（ ， ， ）和ImageNet-22K（ ， ）上。 提供了用于ImageNet-1K图像分类，COCO对象检测和ADE20K语义分割的受支持代码和模型。 在分支提供了用于的cuda内核实现。 介绍 欧亚变压器（名称Swin代表对于s hifted赢得DOW）最初描述 ，其干练作为一个通用的骨干，为计算机视觉。 它基本上是一个分层的Transformer，其表示是通过移动窗口来计算的。 通过将自注意计算限制为不重叠的局部窗口，同时允许跨窗口连接，移位的窗
Swin-Transformer 图像分类网络实战项目：6种生活垃圾图像分类数据集（迁移学习）
03-18
【网络】swin-transformer，参数量为8676,8849左右 【数据集】6种生活垃圾图像分类数据集(硬纸板、玻璃、金属、纸张等等6个类别） 【训练train.py】 1、训练过程中，会对数据集进行随机裁剪、翻转等数据增广等等。 2...
Swin-Transformer分类源码(已跑通)
沐阳的博客
05-19 1万+
这是跑通的分割源码介绍，大家有需要可以参考一下 1、Swin-Transformer分割源码(已跑通) 2、关于swin transformer原理的一些补充理解 3、Swin-Unet(分割改编) 一. 概要 最近swin-transformer大火，代码开源两天，girhub直接飙到1.9k。估计接下来关于和swin-transformer相结合的各种网络结构paper就要出来了，哈哈，我也是其中的一员，拼手速吧各位。它的原理网上的博客已经讲的非常的细致了，甚至还有带着读源代码的。这些大佬真的很
神经网络学习笔记5——Swin-Transformer网络
qq_45848817的博客
10-21 9302
Swim Transformer是特为视觉领域设计的一种分层Transformer结构。Swin 的两大特性是滑动窗口和分层表示。滑动窗口在局部不重叠的窗口中计算自注意力，并允许跨窗口连接。分层结构允许模型适配不同尺度的图片，并且计算复杂度与图像大小呈线性关系，也因此被人成为披着transformer皮的CNN。
论文： LeViT（Transformer 图像分类）
cztAI的博客
06-25 2564
LeViT: a Vision Transformer in ConvNet’s Clothing for Faster Inference 论文：https://arxiv.org/pdf/2104.01136.pdf 代码：https://github.com/facebookresearch/LeViT 摘要 我们提出了LeVIT：一种用于快速推理图像分类的混合神经网络。我们在不同的硬件平台上考虑不同的效率度量，以便最好地反映广泛的应用场景。我们的大量实验验证了我们的技术选择，并表明它们适用于大多数体
Vision Transformer图像分类(MindSpore实现)
m0_37046057的博客
05-13 3558
Vision Transformer进行图像分类 Vision Transformer（ViT）简介 近些年，随着基于自注意（Self-Attention）结构的模型的发展，特别是Transformer模型的提出，极大的促进了自然语言处理模型的发展。由于Transformers的计算效率和可扩展性，它已经能够训练具有超过100B参数的空前规模的模型。 ViT则是自然语言处理和计算机视觉两个领域的融合结晶。在不依赖卷积操作的情况下，依然可以在图像分类任务上达到很好的效果。 模型结构 ViT模型的主体结构是基于
【pytorch】Vision Transformer实现图像分类+可视化+训练数据保存
热门推荐
Leon的博客
04-30 2万+
一、Vision Transformer介绍 Transformer的核心是 “自注意力” 机制。 论文地址：https://arxiv.org/pdf/2010.11929.pdf 自注意力（self-attention）相比 卷积神经网络 和 循环神经网络 同时具有并行计算和最短的最大路径⻓度这两个优势。因此，使用自注意力来设计深度架构是很有吸引力的。对比之前仍然依赖循环神经网络实现输入表示的自注意力模型 [Cheng et al., 2016,Lin et al., 2017b, Paulus
Swin Transformer猫狗分类
andy dennis的博客
01-16 5057
前言 早上看了一下Swin Transformer的论文，觉得还不错，就看了看代码，还挺简洁。 我不说是谁，那么无聊画了一下午用Swin Tranformer实现猫狗分类… 代码 依赖 需要下载一个库, 在终端运行则不需要前面的英文感叹号 !pip install timm 将依赖import 进来 import torch import torchvision from torch.utils.data import DataLoader import torch.nn.functional as
swin transformer v2图像分类
08-12
Swin Transformer V2在图像分类任务中具有出色的性能。它通过利用Swin Transformer的特征对齐机制和局部特征融合模块，能够更好地捕捉图像中的全局和局部信息，并在分类任务中取得优秀的结果。 在图像分类中，Swin ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

栋哥爱做饭

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值