How Do Vision Transformers Work? ICLR2022

已于 2024-04-09 23:23:21 修改
阅读量392 收藏 3
点赞数
分类专栏： 报告总结 文章标签： 卷积神经网络 计算机视觉 深度学习 transformer
于 2022-06-01 10:17:05 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39704651/article/details/125078656
版权

文章标题” How Do Vision Transformers Work?“ 是 ICLR2022 spotlight。
从大佬那里入的这篇文章的坑，遂做了个报告。
大佬的视频来源：https://www.bilibili.com/video/BV1GL411K75m?spm_id_from=333.999.0.0
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

剪刀不加香菜
关注
专栏目录
关于大语言模型的论文和学习资源集合
05-14 213
【代码】关于大语言模型的论文和学习资源集合。
A Guide Resource for Deep Reinforcement Learning
12-24 778
A Guide Resource for Deep Reinforcement Learning 1. About this work: This deep intensive learning database was initiated by the 【 Deep Reinforcement Learning Laboratory(DeepRL-Lab) 】and was jointly c...
How Do Vision Transformers Work
woshilaixiazaidemiao的博客
05-14 1225
引入 从CNN的角度来看，MSA可以看成是一种特殊的卷积变换，它作用在整个feature map上，具有大尺寸的核参数，因此MSA应该具有卷积操作的基础能力。但是MSA的长距离依赖建模能力对于模型预测性能的提升，本文作者提出了反对意见，作者认为给予模型适当的距离约束可以帮助模型学习更鲁棒的表示，例如一些局部建模MSA的工作，CSAN和SwinTransformer都仅在小窗口内计算自注意力，不仅在小数据集上表现优异，而且在大型数据集例如Imagenet-21K上达到了更好的性能。基于此，作者提出了针对MSA
How do vision transformer work?【论文解读】
qq_34845880的博客
03-16 2652
ICLR 2022的spotlight。 原论文地址：https://arxiv.org/abs/2202.06709 你懂的VIT吗？ 论文的核心是在证明VIT的优化曲面对比ResNet要好很多。 Abstract 1、注意力机制有助于提升泛化能力，因为会使损失函数平滑化。 2、VIT的进步是因为数据特异度（specificity）高，不是因为长距离依赖性。（当前很多人认为VIT work的原因是因为VIT的距离比较长，不像CNN只有一个短局部的信息建模） 3、VIT会受非突的损失函数的
HOW DO VISION TRANSFORMERS WORK
最新发布
读书郎
09-04 1424
MSA 改善模型泛化能力MSA 不仅提高了模型的准确性，还通过平滑损失景观来提高泛化能力。损失景观的平坦化使得模型更容易优化，表现为更好的泛化能力。MSA 和卷积神经网络 (CNNs) 的互补性MSA 和卷积层（Convs）表现出相反的行为。MSA 作为低通滤波器减少高频信号，而卷积层则作为高通滤波器放大高频信号。因此，MSA 和卷积层是互补的，且可以在模型中结合使用，以提高性能。多阶段神经网络的阶段行为多阶段神经网络的行为类似于串联的小型模型，特别是阶段末尾的 MSA 对预测性能起关键作用。
ICLR2022《HOW DO VISION TRANSFORMERS WORK?》
weixin_43994864的博客
03-14 3360
论文链接：https://arxiv.org/abs/2202.06709 代码链接：https://github.com/xxxnell/how-do-vits-work
【阅读笔记】HOW DO VISION TRANSFORMERS WORK?
life__saver的博客
02-22 3002
Abstract 论文围绕三点展开： 1.MSA通过平缓神经网络的loss landscape提升准确度和泛化能力，这种能力来自于data specificity而不是long-range dependency(联系两个较远pixel的关系)。 2.MSA是低通滤波器，Conv是高通滤波器，它们功能互补。 3.提出AlterNet，用MSA块代替一个stage结束时的conv块。 1.Introduction 广泛的观点认为MSA的成功来自于弱归纳偏置(weak induc...
盘点 | ICLR 2022 迁移学习，视觉Transformer文章总结
shenlanshenyanai的博客
02-15 1614
ICLR 2022一些评分较高比较有意思的，或者偏DG的paper。 01 Oral——A Fine-Grained Analysis on Distribution Shift 文章来自ICLR 2022 Oral: A Fine-Grained Analysis on Distribution Shift 模型对 distribution shifts的鲁棒性在部署时非常重要，域泛化（domain generalization）就是专门研究这个问题的领域。虽然DG已经涌现出了非常多的研究工作，但是
一周新论文 | 2020年第9周 | 自然语言处理相关
语言智能技术笔记簿
03-01 4210
《一周新论文》系列之2020年第9周：自然语言处理相关
全面分析Vision Transformer如何work的、优势（从低层原理角度）
showfaker_的博客
11-18 2021
从低层原理角度全面解读Transformer如何称霸CV领域
【Transformer】12、Do Vision Transformers See Like Convolutional Neural Networks?
呆呆的猫的博客
11-10 2686
文章目录一、背景二、方法 论文链接：https://arxiv.org/pdf/2108.08810.pdf 一、背景 Transformer 现在在视觉方面取得了超越 CNN 的效果，所以作者就有一个问题：Transformer 是如何处理视觉的相关任务的呢？ 基于此，作者对 ViT 和 CNN 在分类任务上进行了一系列分析，发现两者有着很大的不同。 ViT 在所有层上都有更一致的表达特征，而造成这一现象的原因在于 self-attention，self-attention 能够在浅层就聚合全局特征。
[NeurIPS 2022] 消除视觉Transformer与卷积神经网络在小数据集上的差距
Jason_Honey2的博客
01-12 710
本文简要介绍NeurIPS 2022录用的论文“**Bridging the Gap Between Vision** **Transformers and Convolutional Neural Networks on Small Datasets**”的主要工作。该论文旨在通过增强视觉Transformer中的归纳偏置来提升其在小数据集上从随机初始化开始训练的识别性能。本文通过多种操作构建混合模型，增强视觉Transformer捕捉空间相关性的能力和其进行通道多样性表征的能力，弥补了Transform
HOW DO VISION TRANSFORMERS WORK 总结
w18013886857的博客
11-12 197
HOW DO VISION TRANSFORMERS WORK 总结
How do Transformers Work in NLP? A Guide to the Latest State-of-the-Art Models
weixin_41697507的博客
07-08 1294
How do Transformers Work in NLP? A Guide to the Latest State-of-the-Art Models Overview The Transformer model in NLP has truly changed the way we work with text data Transformer is behind the recent N...
Vision Transformer学习了什么-WHAT DO VISION TRANSFORMERS LEARN? A VISUAL EXPLORATION
qq_41234663的博客
02-26 1041
本文主要阐述了vision transformer学到的东西以及它学习的特点。
【18】Vision Transformer：笔记总结与pytorch实现
Clichong
07-29 2752
下面借这篇blog记录一些阅读笔记，如果问题，恳请指出。 前言 paper原文：AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE 一开始，Transformer在Attention is all you need这篇paper中提出，解决的自然语言中的序列问题，也就是将自然语言的word变成一个sequence问题，但是有效的解决了RNN的无法并行处理的问题，并且其可以考虑全局的咨询，而self-atte.
ICLR2020国际会议焦点论文(Spotlight Paper)列表（内含论文源码）
热门推荐
yinizhilianlove的博客
02-21 1万+
来源：AINLPer微信公众号（点击了解一下吧） 编辑: ShuYini 校稿: ShuYini 时间: 2020-02-21     2020年的ICLR会议将于今年的4月26日-4月30日在Millennium Hall, Addis Ababa ETHIOPIA（埃塞俄比亚首都亚的斯亚贝巴 千禧大厅）举行。     2020年ICLR会议（Eighth International Con...
今日arXiv精选：Transformer专题论文推荐
Paper weekly
08-21 489
关于#今日arXiv精选这是「AI 学术前沿」旗下的一档栏目，编辑将每日从arXiv中精选高质量论文，推送给读者。Attentive fine-tuning of Transform...
Vision Transformers
10-07
Vision Transformers是一种用于图像分类的模型，它采用了Transformer架构，并将其应用于计算机视觉任务。其中，ViT（Vision Transformer）是最早提出的一种Vision Transformer模型。ViT通过将图像分割成小的图块...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值