#今日论文推荐# 超越Swin,iFormer：将卷积与最大池化移植到Transformer！性能提升明显

#今日论文推荐# 超越Swin,iFormer：将卷积与最大池化移植到Transformer！性能提升明显

本文针对Transformer捕获高频的局部信息时表现出的不足，提出Inception Transformer混合架构（iFormer）。灵活移植Inception的卷积与最大池化，并以通道拆分机制来提高效率和频率斜坡结构来权衡高低频分量。代码将开源。 当以平衡网络宽度与深度著称的Inception与以建模远程依赖关系著称的Transformer相遇，会擦出怎样的火花？本文针对Transformer捕获高频的局部信息时表现出的不足，提出Inception Transformer混合架构（iFormer）。灵活移植Inception的卷积与最大池化，并以通道拆分机制来提高效率和频率斜坡结构来权衡高低频分量。代码将开源。

图像中的低频信息和高频信息也叫做低频分量和高频分量。其中高频信息包括图像强度（亮度/灰度）变化剧烈的像素点，例如局部的边缘和纹理。而低频信息则包括图像强度（亮度/灰度）变换平缓的像素点，例如场景或物体的全局形状和结构。如图1所示，将原图进行高低频信号分离后，可以很明显看出高频信号相比低频包含显著的边缘与轮廓信息。

论文题目：Inception Transforme
详细解读：https://www.aminer.cn/research_report/62aaa6477cb68b460fd3b906?download=falsehttps://www.aminer.cn/research_report/62aaa6477cb68b460fd3b906?download=false
AMiner链接：https://www.aminer.cn/?f=cs