Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet

最新推荐文章于 2022-05-22 11:49:05 发布
VIP文章 最新推荐文章于 2022-05-22 11:49:05 发布
阅读量3.3k 收藏 12
点赞数
分类专栏： backbone Transformer 计算机视觉论文速递 文章标签： 机器学习 人工智能 深度学习 算法 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/amusi1994/article/details/113408669
版权

本文提出一种新的Tokens到Token 视觉Transformer（T2T-ViT）！性能更快更强，将原始ViT的参数和MAC减少200％，性能优于ViT、ResNet等网络，代码刚刚开源！

昨天才推了一个CNN+Transformer的新backbone：CNN+Transformer！谷歌提出BoTNet：新主干网络！在ImageNet上达84.7%，今天又来了一个新工作，CV圈太内卷了！

不过这篇论文中并没有在目标检测、实例分割等下游任务上的充足实验数据，如果加上相关分析就更好了，毕竟现在"backbone"可不好被review
注1：文末附【Transformer】流群

注2：整理不易，欢迎点赞，支持分享！

在这里插入图片描述

Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet

最低0.47元/天 解锁文章
Amusi（CVer）
关注
  • 0
    点赞
  • 踩
  • 12
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet | 全面超越ResNet
王博（Kings）的博客
01-30 6411
与之前ViT、Detr、Deit等不同之处在于：本文针对ViT的特征多样性、结构化设计等进行了更深入的思考，提出了一种新颖的Tokens-to-Token机制，用于同时建模图像的局部结构信息与全局相关性，同时还借鉴了CNN架构设计思想引导ViT的骨干设计。最终，仅仅依赖于ImageNet数据，而无需JFT-300M预训练，所提方案即可取得全面超越ResNet的性能，且参数量与计算量显著降低；与此同时，在轻量化方面，所提方法只需简单减少深度与隐含层维度即可取得优于精心设计的MobileNet系列方案的性能..
github-personal-access-token-generator-cli:从终端创建GitHub个人访问令牌
05-27
github-personal-access-token-generator-cli 。 但是，如果您是像我这样的命令行狂，并且想要快速创建个人访问令牌而不必离开终端机... 安装 npm install github-personal-access-token-generator-cli -g 用法 ghpat 您会被要求 您的用户名和密码组合 您希望访问令牌具有的各种范围/权限 使用此个人访问令牌的原因-aka它将用于什么目的？ 如果您已为GitHub启用2FA，则需要两个因素的身份验证代码 如果成功，您的个人访问令牌将被复制到剪贴板。 并不是所有的GitHub个人访问令牌选项都可用吗？ 是的，他们不是。 该实用程序主要用于快速创建个人访问令牌-在大多数情况下（我会争论），您需要设置“覆盖”范围之一，而不是任何“子范围”。 如果最终用户不是这种情况，则可以添加。
[论文阅读] Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet
xiongxyowo的博客
07-30 2314
论文地址：https://arxiv.org/abs/2101.11986 代码：https://github.com/yitu-opensource/T2T-ViT 发表于：Arxiv 2021.01 Abstract Transformer在语言建模中很受欢迎，最近也被探索用于解决视觉任务，例如，用于图像分类的Vision Transformer(ViT)。ViT模型将每个图像分割成具有固定长度的token序列，然后应用多个Transformer层来模拟它们的全局关系以进行分类。然而，当在ImageNe
【ICCV2021】Tokens-to-Token ViT: Training Vision Transformers From Scratch on ImageNet
中国海洋大学AI前沿理论组
03-27 3774
部分内容来自于 GiantPandaCV 的文章 论文：https://openaccess.thecvf.com/content/ICCV2021/papers/Yuan_Tokens-to-Token_ViT_Training_Vision_Transformers_From_Scratch_on_ImageNet_ICCV_2021_paper.pdf 代码：https://github.com/yitu-opensource/T2T-ViT 1、Motivation 作者指出VIT的不足之处：..
Token 认证的来龙去脉
weixin_33777877的博客
11-06 536
不久前，我在在前后端分离实践中提到了基于 Token 的认证，现在我们稍稍深入一些。 通常情况下，我们在讨论某个技术的时候，都是从问题开始。那么第一个问题： 为什么要用 Token？ 而要回答这个问题很简单——因为它能解决问题！ 可以解决哪些问题呢？ Token 完全由应用管理，所以它可以避开同源策略 Token 可以避免CSRF 攻击 Token...
[2101] [ICCV 2021] Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet
koukouvagia的博客
02-21 871
Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet
Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet阅读笔记（小关键点记录）
wangtao990503的博客
04-15 2721
摘要 作者开篇首先指出了ViT的不足：在中小型数据集上的效果不如CNNs，并分析原因： 1. 输入图像通过硬分割的简单词语切分未能对相邻像素之间的边缘和线条等重要局部结构进行建模，导致训练样本效率低； 2. ViT的冗余注意力主干设计导致固定计算预算和有限训练样本的特征丰富度有限。 基于此，作者提出了他的模型 -- Tokens-To-Token Vi-sion Transformer (T2T-ViT)可以直接在imgNET上有比resNet更好的效果，主要变换...
Day 8: Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet
ttppss的博客
05-18 440
本篇文章是依图和新加坡国立联合推出的论文，好像1月份左右就已经出来了，但不知道为什么一直没有掀起比较热烈的讨论。难道因为最近Transformer东西太多，大家已经关注不过来了？CVer说可能是没有足够的在下游任务上的实验数据，因此不太好review，不过看完看，感觉还是挺不错的，先hightlight一下几个要点。 提出 Tokens-to-token结构（从前后两个token的单复数形式变化也能看出点端倪），通过将聚在一起的一群token聚合成一个token，来反复渐进地将图片重构成token，这样.
Tokens-to-token vit: Training vision transformers from scratch on imagenet
weixin_44000193的博客
04-10 686
动机 VIT在中型数据集上从头训练的效果比CNN还差 原因 （1）对输入图像的简单token化不能对邻近像素的重要结构进行建模（如边缘） （2）冗余的注意主干设计导致有限的功能丰富度和模型训练的困难 解决问题的方法 提出了T2T-Vision Transformer 包括： （1）一个tokens-to-token的转换器，通过递归地聚合周边的token从而将图像逐渐得结构化成tokens （2）一个又深有窄的backbone Tokens-to-Token token从transformer层输出后，re
【论文笔记】Tokens-to-Token VIT: Training Vision Transformers from Scratch on ImageNet(T2T-VIT)
OneYearIsEnough的博客
05-22 849
图像分类论文T2T-VIT
firebase-id-tokens-verifier：代码段显示如何使用Ruby验证Firebase ID令牌
02-04
Firebase ID令牌验证程序该代码段显示了如何使用Ruby验证Firebase ID令牌。 FirebaseIDTokenVerifier类包含2个方法：编码和解码。 编码方法只是出于测试目的而编写的-我在另一个项目中在测试中使用此方法来生成测试...
ermahgerd-emberjs-jwt-token：Ember 3+，带有Rails JWT后端的Ember简单身份验证
02-05
自述文件-ermahgerd-emberjs-jwt-token 这个Ember应用程序通过与Rails API服务器进行通信。开发-入门您需要以下内容：考虑使用 确保安装CLI yarn global ember-cli 通过Testem运行的单元测试需要Chrome首次设置git ...
Xiaomi-cloud-tokens-extractor:该工具脚本检索连接到小米云的所有设备的令牌和BLE设备的加密密钥
03-16
小米云令牌提取器 该工具/脚本检索连接到小米云的所有设备的令牌以及BLE设备... cd Xiaomi-cloud-tokens-extractor 使用docker构建并运行脚本： docker run --rm -it $( docker build -q . ) 其他平台 安装依赖项：
denn-design-tokens-scss-mixins：用StackBlitz创建:high_voltage:
03-04
denn-design-tokens-scss-mixins
ICCV2021 | Tokens-to-Token ViT:在ImageNet上从零训练Vision Transformer
CV技术指南（微信公众号）
12-21 1351
前言 本文介绍一种新的tokens-to-token Vision Transformer(T2T-ViT)，T2T-ViT将原始ViT的参数数量和MAC减少了一半，同时在ImageNet上从头开始训练时实现了3.0%以上的改进。通过直接在ImageNet上进行训练，它的性能也优于ResNet，达到了与MobileNet相当的性能。 本文来自公众号CV技术指南的论文分享系列 关注公众号CV技术指南 ，专注于计算机视觉的技术总结、最新技术跟踪、经典论文解读。 论文：Tokens-to-Token.
Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet（阅读笔记）
GXU_PJM的博客
03-06 1237
Abstract 在ImageNet上从头训练一个vision transformer（ViT）模型，ViT模型可以不依赖CNN，直接应用于图像块序列进行图像分类，但是在中等大小数据集（例如imageNet)上的效果不如CNN，主要原因：1.输入图像简单token化无法建模重要的局部特征。2.ViT的冗余注意力主干网设计在固定负载和有限样本约束下限制了特征丰富性。本文提出渐进式token化（Tokens to token)使每个Token更好地建模局部信息，借助CNN架构思想使用deep-narrow结构
Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet作者袁粒讲T2T-ViT
weixin_43807148的博客
02-08 613
《Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet》作者袁粒来小组学习，主要讲了论文和一些心得 CNN和Transformer ResNet是最常用的一个CNN NLP领域中很重要的是Transformer，反驳了LSTM is all you need Self-attention mechanism（同一个句子里面）： Attention map（两个词之间的关联程度）: QK键值V值 Q*K
轻量化版本优于MobileNet系列 | Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet
中科院AI算法工程师的博客
01-30 309
ResNet被全面超越了！是那个Transformer干的，依图科技开源“可大可小”T2T-ViT，轻量版优于MobileNet...
阿木寺的博客
01-30 2054
点击上方“CVer”，选择加"星标"置顶重磅干货，第一时间送达作者丨Happy 审稿｜邓富城转载自丨极市平台极市导读又一篇Transformer来了！本文在ViT...
ViT（Vision Transformer）损失函数
最新发布
09-14
此外，在《Tokens-to-Token ViT: Training Vision Transformers from Scratch on ImageNet》一文中，作者也使用了交叉熵损失函数来训练Tokens-to-Token ViT模型。 综上所述，ViT模型的损失函数可以根据具体的变种和...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值