何恺明一作论文 MAE 已有人复现（Pytorch版）

最新推荐文章于 2024-08-20 22:32:45 发布
置顶 最新推荐文章于 2024-08-20 22:32:45 发布
阅读量1.8k 收藏 3
点赞数
分类专栏： CV 文章标签： 深度学习 机器学习 神经网络
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_59596990/article/details/121649138
版权

何恺明大佬新作一发出来，知乎上就有众多大佬在讨论

除了大家对何恺明大佬的工作的肯定外（当然部分认为novelty不足），也引发对未来CV工作的思考，是否会引领类似去年 transformer那样子的热潮？亦或是证明ViT的各种改变可能都是没有意义的。

这次何恺明大佬又把握了技术发展的趋势，NLP和CV互相融合的工作看来会是大势所趋。

图片

论文链接：https://arxiv.org/pdf/2111.06377.pdf

图片

复现代码：

https://github.com/pengzhiliang/MAE-pytorch

项目结构：

图片

详情：

图片

机器学习社区
关注
专栏目录
PyTorch笔记 - MAE(Masked Autoencoders) PyTorch源码
Mystra
12-20 2148
掩码的自编码器是可扩展的视觉学习器MAE结构：ViT的不同类型：An Image is worth 16X16 words: Transformers for Image recognition at scale。
MAE 论文《Masked Autoencoders Are Scalable Vision Learners》
like_jmo的博客
08-01 2380
《Masked Autoencoders Are Scalable Vision Learners》，我直呼666
MAE论文详解
最新发布
m0_64148253的博客
08-20 1098
MAE是Facebook团队在2021年11月发布的一篇论文，《Masked Autoencoders Are Scalable Vision Learners》，带掩膜的自编码器是可扩展的视觉学习器，MAE就是MaskedAutoEncoders的缩写，一作是何凯明大神。MAE通过在图片上进行掩码实现在CV领域进行大规模的自监督训练，并且仅通过在ImageNet-IK数据集上进行训练实现了最好的准确率，超过了当时的有监督训练方法。接下来对这篇论文进行详细介绍。
别再无聊地吹捧了，一起来动手实现MAE玩玩吧！
Paper weekly
12-09 1883
©作者 | CW不要無聊的風格研究方向 | 目标检测、大规模预训练模型前言只要你不是与世隔绝的深度炼丹者，应该都知道前阵子恺明大神的佳作 MAE（Masked Autoencoders A...
李沐精读论文：MAE 《Masked Autoencoders Are Scalable Vision Learners》
iwill323的博客
12-21 4158
李沐精读论文：MAE 《Masked Autoencoders Are Scalable Vision Learners》
MAE（CVPR 2022，Meta）论文与代码解析
00000cj的博客
06-20 3140
深度学习在计算机视觉领域取得了显著进展，但随着模型规模的增长，对数据的需求也在增加。在自然语言处理（NLP）领域，通过自监督预训练的方法（如BERT和GPT）成功解决了数据需求问题，这些方法通过预测数据中被遮蔽的部分来训练模型。然而，在计算机视觉领域，尽管存在相关研究，自监督学习方法的发展仍然滞后于NLP。
SiamMAE复现记录，训练我们自己的数据集。AI学习从复现开始！
quan_app的博客
07-06 1336
论文中提到使用的是共享权值的encoder，所以此处可直接使用MAE的encoder，由于MAE是单分支的，这里需要更改modeling_pretraining.py代码，将网络中间稍作修改。而第二个分支encoder的输入为未被掩码的patch，这里我没有按照论文的95%掩码率，使用的仍是MAE原始的75%掩码率，即输入256个patch，输出不变，即[1， 256， 768]最后我们要训练我们自己的数据集，文章中是图像重建任务，与MAE不同，输入端是两张图片，所以，dataset这边也需要改一下。
MAE论文笔记+Pytroch实现
qq_43428929的博客
04-08 2151
本篇论文提出了一个非对称自编码器架构（这里的非对称指的是Encoder和Decoder看到的东西即输入时不一样的），用来得到一个泛化能力比较强的特征提取器。进行自监督学习可以用来进行迁移学习。自编码器简单的说就是一个模型包含两个部分Encoder和Decoder，其中Encoder用来进行特征提取，Decoder用来进行还原图像。自编码器的任务是输入噪声或有损图片，输出重构好的图片，就是还原图片。通过训练，得到的特征提取器Encoder就有较强的特征提取能力，可以用来进行自监督学习。什么叫自监督学习呢？
MAE论文笔记
charles_zhang_的博客
04-10 2996
MAE论文笔记 Masked Autoencoders Are Scalable Vision Learners MAE模型和其他的结构的关系，可以认为是在ViT的基础上实现类似于BERT的通过完型填空获取图片的理解 标题和作者 Masked Autoencoders Are Scalable Vision Learners 其中的Autoencoders 中的auto是“自”的意思，主要是指输入(x)和输出(y)是来自于同一个变量（相同），题目设置使用Autoencoders 使用为在CV领域这中类型的
【论文阅读】MAE模型介绍
aixiaomi123的博客
11-30 9277
关于MAE模型
MAE 论文逐段精读【论文精读】（深度学习论文篇）
qq_42014059的博客
12-22 5366
源于沐神：MAE 论文逐段精读【论文精读】 (bilibili.com) MAE 2021.11.11提交 arxiv 知乎 百万 view; Reddit or Twitter 讨论不多 MAE 很新 --> 如何在读比较新的文章 获取一些新的研究思路？ 和之前精读论文的关系？ Transformer 一个纯基于注意力机制的编码器和解码器 表现比 RNN 架构好，在机器翻译任务 BERT 使用 一个 Transfor...
论文精读--MAE
m0_73202283的博客
02-18 1951
本文证明了掩码自编码器(MAE)是一种可扩展的计算机视觉自监督学习算法。我们的MAE方法很简单:我们屏蔽输入图像的随机patch并重建缺失的像素。它基于两个核心设计。首先，我们开发了一个非对称编码器-解码器架构，其中一个编码器仅对patch的可见子集(没有掩码令牌)进行操作，以及一个轻量级解码器，该解码器从潜在表示和掩码token重建原始图像。其次，我们发现掩盖输入图像的高比例，例如75%，产生了一个重要的和有意义的自我监督任务。
利用pytorch实现平均绝对值误差（MAE）
热门推荐
weixin_44438120的博客
05-10 1万+
1.LOSS functions L1Loss CLASS torch.nn.L1Loss(size_average=None, reduce=None, reduction=‘mean’) 创建一个标准来度量输入x和目标y中的每个元素之间的平均绝对误差(MAE)。 l(x,y)=L={l1,...,lN}T,ln=∣xn−yn∣l(x,y)=L=\{l_1,...,l_N\}^T,l_n=|x_n-y_n|l(x,y)=L={l1​,...,lN​}T,ln​=∣xn​−yn​∣ 其中N为batch
基础论文学习（5）——MAE
ZhengrongYue的博客
08-25 2318
基础论文学习（5）——MAE
MAE论文精读，预训练图像
人工智能曾小健
06-08 1369
成功的应用到CV上面以来，就出现了很多相关性的工作，MAE就是其中的一篇。为何采用随机均匀抽样策略：一是避免潜在的“中心归纳偏好”(也就是避免 patch 的位置大多都分布在靠近图像中心的区域)，二是这种策略还造就了稀疏的编码器输入（只处理可见块），能够以更低的代价训练较大规模的 Encoder。需要注意的是，masked tokens不是通过mask 掉的 patch 经过 embedding 转换而来，而是通过一个共享的可学习向量来表示，也就是说每一个被mask的块都表示成同样的向量。
MAE 自监督算法介绍和基于 EasyCV 的复现
阿里云云栖号
05-20 3054
简介：自监督学习（Self-Supervised Learning）能利用大量无标注的数据进行表征学习，然后在特定下游任务上对参数进行微调。通过这样的方式，能够在较少有标注数据上取得优于有监督学习方法的精度。近年来，自监督学习受到了越来越多的关注，如Yann Lecun也在 AAAI 上讲 Self-Supervised Learning 是未来的大势所趋。在CV领域涌现了如SwAV、MOCO、DINO、MoBY等一系列工作。MAE是kaiming继MOCO之后在自监督学习领域的又一力作。首先，本文会对MA
【CV Transformer 论文笔记】MAE: Masked Autoencoders Are Scalable Vision Learners
bikahuli的博客
12-21 2346
本文的主要观点是：掩码自编码器 (MAE) 是适用于计算机视觉的可扩展自监督学习器。 如果说ViT对应于NLP中的Tranformer，MAE实际上是对应于BERT。 MAE的核心思想是随机屏蔽输入图像一部分的patches随后重建被屏蔽的像素。 这种将输入映射到潜在表示再重构输入的编码器-解码器结构就叫做Autoencoder。 MAE基于2个核心设计： 1、非对称编码器-解码器架构，其中编码器仅对可见的patches编码，随后将mask tokens加入编码结果中馈送到轻量级解码器。 2、屏蔽输入图像.
读论文——MAE（CV小白带读2021何恺明新作）
y1040468929的博客
12-04 4634
ResNet作者，2021年新作，预定顶会？
MAE,RMSE与MAPE的pytorch实现
qq_44858786的博客
12-05 400
【代码】MAE,RMSE与MAPE的pytorch实现。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值