【CVPR 2025】何恺明新作：9行代码，即插即用DyT，替换传统归一化！

最新推荐文章于 2025-09-02 10:58:01 发布
原创 最新推荐文章于 2025-09-02 10:58:01 发布 · 1.2k 阅读 · 8 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #深度学习 #计算机视觉 #pytorch #机器学习

图片

一、论文信息 

论文题目：Transformers without Normalization

中文题目：无归一化的Transformer

论文链接：https://arxiv.org/pdf/2503.10622

所属机构：Meta FAIR (原属Facebook公司)，纽约大学，麻省理工学院，普林斯顿大学

核心速览：本文提出了一种名为Dynamic Tanh (DyT)的简单技术，用以替代Transformer中的归一化层，展示了不使用归一化层的Transformer同样可以达到甚至超越使用归一化层的性能。

二、论文概要 

 

Highlight

图片

图片

图5 ViT-B和ConvNeXt-B模型的训练损失曲线

最低0.47元/天 解锁文章
CVPR2025 | 即插即用模块用于遥感全色锐化, 双层加权机制
yyyyyybw的博客
04-18 1161
题目：A General Adaptive Dual-level Weighting Mechanism for Remote Sensing Pansharpening会议：IEEE / CVF Computer Vision and Pattern Recognition Conference论文：https://arxiv.org/abs/2503.13214年份：2025单位：电子科技大学，中科院自动化所这才是科研人该学的！
【CVPR 2025】局部区域自注意力LASA，用重叠补丁增强区域特征交互，即插即用！
qq_43303160的博客
03-17 4305
LRSA能够捕捉到局部区域内的长距离依赖关系，从而增强模型对局部细节的处理能力。
DyT：何凯明LeCun联手，删除归一化层，性能不减速度反升！
sherlockMa的博客
03-26 1556
DyT的提出具有重要的贡献和意义。首先，它提供了一种简单而有效的归一化层替代方案。传统的归一化层如Layer Normalization虽然在稳定训练和提升模型性能方面发挥了重要作用，但计算过程相对复杂，需要计算输入数据的均值和方差。DyT通过简单的α缩放和tanh函数操作，避免了这些复杂的计算，从而显著提高了训练和推理的效率。其次，DyT在多种任务和模型架构中表现出色。实验结果表明，使用DyT的模型在视觉、语言、语音等多个领域的任务中，都能达到甚至超过传统归一化层的性能，且几乎不需要调整超参数。
CVPR 2025 | 即插即用，动态场景深度感知新SOTA！单目视频精准SLAM+深度估计
AImokuai的博客
08-14 1098
本文提出了一种基于深度视觉SLAM框架的动态场景单目视频处理系统MegaSaM，能够高效准确地估计相机参数和深度图。该系统通过整合单目深度先验与运动概率图，采用两阶段训练方案提升动态场景处理能力，并引入不确定性感知的全局BA方案增强鲁棒性。实验表明，MegaSaM在相机姿态和深度估计精度上显著优于现有方法，同时在运行效率上保持竞争力。该系统适用于动态场景3D重建、机器人导航等多种任务，为复杂动态环境的视觉感知提供了有效解决方案。
何恺明大神新作：扩散模型新架构！
深度学习技术前沿
01-28 338
来源：量子位CV大神何恺明，也来搞扩散模型（Diffusion Model）了！大神最新论文刚刚挂上arXiv，还是热乎的：解构扩散模型，提出一个高度简化的新架构l-DAE（小写的L）。并且通过与何恺明在视觉自监督学习领域的代表作MAE（Masked Autoencoder）对比，更好地理解了扩散模型内部的工作原理。不仅如此，这篇论文还发现在扩散模型中，去噪过程比扩散过程更重要。这项工作阵容非常豪...
【CVPR 2025】Geometry Self-Attention：即插即用的结构感知模块，显著提升语义分割与视觉理解精度！
weixin_43009052的博客
05-04 2998
本文提出了一种新颖的思路：不再显式编码深度图特征，而是利用其构造图像patch之间的几何关系矩阵，引导注意力权重的空间分配。 通过构建一个融合空间位置与深度差异的几何先验，并引入至自注意力机制中，模型可以自动聚焦于几何相关区域，从而在不引入额外复杂度的前提下，显著提升RGB-D语义理解能力。该方法兼顾性能与效率，为RGB-D语义分割提供了全新的研究范式。
CVPR 2025新宠：即插即用扩散模型，不用重训模型，直接涨点！
2501_91057708的博客
05-14 1900
扩散模型在图像生成、目标检测等领域展现出强大潜力，尤其在自动驾驶和计算机视觉应用中，精确、低噪声的数据表示需求推动了即插即用扩散模型的发展。传统模型在处理多传感器融合或含噪鸟瞰图（BEV）数据时面临挑战，如特征差异大、噪声干扰等。即插即用扩散模型通过创新架构设计，灵活嵌入现有模型，提升去噪与特征融合能力，显著提高了BEV地图分割与3D目标检测的精度，并增强了对传感器异常的鲁棒性。相关研究如BEVDiffuser和DifFUSER，通过特定算法和去噪扩散过程，有效解决了BEV表示噪声和多模态特征融合问题，展示
【CVPR 2025】 清华大学新作：见大观小，LS卷积横扫CV任务！
最新发布
weixin_43009052的博客
09-02 910
CVPR2025顶会论文研究：LSNet提出创新的大-小卷积模块(LS-Conv)，模仿人类视觉系统的见大观小"机制，通过大核静态感知与小核动态聚合相结合，在轻量化模型中同时实现广域上下文建模和局部细节捕捉。研究还提出增强版DCLSConv模块，整合多尺度感知、小核动态聚合和通道注意力三重机制，显著提升轻量化网络在分类、检测和分割等任务中的表现。文章包含模块原理图解、适用任务分析及代码获取方式，为CV领域提供高效的特征提取解决方案。
【CVPR 2025】清华：注意力状态空间模块，Mamba与注意力的超强组合，即插即用！
qq_43303160的博客
07-12 2724
MambaIRv2提出了一种创新的图像恢复模型，通过引入注意力状态空间模块（ASSM）解决了Mamba模型因果建模限制问题。该模型结合语义引导邻域机制和注意力状态空间方程，实现了非因果建模，有效缓解了长距离衰减问题。实验表明，MambaIRv2在图像超分辨率、JPEG压缩伪影减少和图像去噪等任务中表现优异，参数更少但性能超越现有方法。
CVPR 2025 | 清华团队打造轻量级网络新范式：即插即用 LSNet 让模型小巧却更精确
07-16 1435
如今各种视觉网络设计，包括卷积神经网络（Convolutional Neural Network）和视觉Transformer（Vision Transformer），都已经在计算机视觉领域取得了显著成效。但是这些网络中复杂的计算过程，又让我们难以进行实地部署，为实时应用造成困难。研究人员试图从将模型轻量化或设计更高效的神经网络结构上入手解决上述问题，然而现有的模型在进行token混合时主要利用自注意力机制和卷积计算相结合，在轻量级网络中会造成性能上的限制，无法达到预算与实际效率间的最优平衡。
SCConv（cvpr2023）：即插即用的空间和通道重建卷积
casual0814的博客
08-07 183
(即插即用模块-Attention部分) 二十四、(CVPR 2023) Super Token Attention
wei582636312的博客
12-06 1427
现有的传统视觉 ViTs 在浅层网络中倾向于捕获局部特征，会导致大量冗余计算。同时， 为了降低计算成本，现有的许多方法采用局部注意力或早期卷积，但牺牲了全局建模能力。所以这篇论文从超像素分割中得到启发，在后续处理中减少了图像基元的数量，并在视觉Transformer中引入了一种Super Token Attention。
(即插即用模块-Convolution部分) 十八、(2024 CVPR) FADConv 频率自适应空洞卷积
wei582636312的博客
03-13 1295
扩张卷积在扩大感受野的同时，也降低了频率响应，导致高频信息丢失，出现混叠现象，影响模型性能。传统的扩张卷积使用全局固定的扩张率，无法适应不同区域的频率特征，限制了模型的表达能力。：通过空间变权重的策略平衡特征图中的高低频成分，抑制背景和物体中心的高频成分，鼓励 FADConv 使用更大的扩张率，从而扩大感受野。：将卷积核权重分解为低频和高频成分，并动态调整它们的比例，提高卷积核的频率响应，扩大有效带宽。FADConv 主要从频率分析的角度出发，提出了三种策略来改进扩张卷积，具体来说，
打破固有观念：归一化层并非必不可少！——何恺明与LeCun联手革新Transformer架构
xzq_qzx_的博客
03-18 580
然而，Meta、NYU、MIT、普林斯顿等机构的研究者们，在何恺明和Yann LeCun的带领下，提出了一种全新的Transformer架构——然而，归一化层的计算开销较大，尤其是在大规模模型训练中，归一化层的计算成本可能成为性能瓶颈。何恺明与LeCun等人的研究打破了深度学习领域对归一化层的固有观念，提出了一种简单而高效的替代方案——动态Tanh（DyT）。：在多个任务和领域中，DyT的表现与传统的归一化层相当甚至更优。与传统的归一化层不同，DyT无需计算输入数据的均值和方差，从而显著降低了计算开销。
入选CVPR 2025！何恺明联手LeCun改进Transformer！新思路学到就赚到~
学姐带你玩AI的博客
03-18 941
何恺明大佬这几天又整了个大的，和LeCun联手提出了一种没有归一化层的Transformer，性能比传统Transformer更强！而且他们甚至只用了9行代码...大家感兴趣可以复现了试试。这波属实是Transformer的大突破！目前也已拿下CVPR 2025。加上前不久清华微软的爆火成果Diff Transformer，近期关于又迎来了新热潮！大家没idea的快冲！改进Transformer方法思路很多的，关键在于结合具体问题提出创新。比如针对计算复杂度问题，研究线性注意力或混合架构；
(CVPR-2025)无需归一化的Transformer
顾道长生的科研笔记
04-01 1511
归一化层在现代神经网络中无处不在，并长期被认为是必不可少的。本研究表明，不使用归一化的Transformer可以通过一种极其简单的技术达到甚至超过标准性能。我们提出了Dynamic Tanh（DyT），这是一种逐元素的操作DyT⁡xtanh⁡αxDyTxtanhαx，可以直接替代Transformer中的归一化层。DyT的灵感来自于一个观察：Transformer中的层归一化通常会产生类似tanh的、SSS形的输入输出映射。
CVPR 2023 | 涨点神器！SCConv：即插即用的空间和通道重建卷积
热门推荐
阿木寺的博客
09-13 1万+
点击下方卡片，关注“CVer”公众号AI/CV重磅干货，第一时间送达点击进入—>【目标检测和Transformer】群作者：玉米爆米花（源：知乎）| 编辑：CVer公众号https://zhuanlan.zhihu.com/p/655851980在CVer微信公众号后台回复：SCConv，可以下载本论文pdf和代码论文地址：https://openaccess.thecvf.com/cont...
【CVPR 2025】突破微调极限，轻装上阵——涨点神器 Mona：小巧·强大·高效！
weixin_43009052的博客
04-29 2675
本文提出了一种高效的多认知视觉适配器（Multi-cognitive Visual Adapter, Mona），通过引入可调整输入分布的归一化模块与多尺度卷积感知单元，提升适配器对视觉特征的处理能力。具体做法是：在适配器中融合多个深度可分离卷积（3×3、5×5、7×7）构建多认知滤波器组，同时采用加权归一化优化固定层输入特征分布，强化不同尺度、不同认知视角下的特征提取与融合能力。Mona模块作为核心微调单元，广泛验证于图像分类、目标检测、语义分割、实例分割与定向目标检测等任务，在多个代表性视觉基准测试中首
CVPR 2023 | 即插即用的注意力模块 HAT: 激活更多有用的像素助力low-level任务显著涨点！
专注计算机视觉全栈知识分享
06-04 5405
本文提出了一种名为 HAT 的新型超分辨率 Transformer 方法，通过结合不同类型的注意力机制和大规模数据预训练，实现了更好的图像重建效果。该方法在实验证明了其在超分辨率任务中的优越性能，并超过了当前最先进方法。这项研究拓展了Transformer在计算机视觉任务中的应用，并提供了一种改进低级视觉任务的方法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI缝合术

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值