“王牌搭档”频域+MLP拿下CVPR屡试不爽！最新idea创新性超群！

朋友们，时间序列预测领域又有一篇CVPR了！这次是一种新型域泛化架构ALOFT，结合了频域+MLP，实现了超91%的预测准确率和SOTA性能！

这类频域MLP模型其实是时序预测领域一种非常重要的方法，它通过独特的结合方式，给我们提供了一个新的研究视角，不仅实现了更高的预测准确性，还拥有更简单的模型结构。

因此这个方法逐渐受到了广泛的关注和应用，NeurIPS上的新研究FreTS也验证了频域MLP是更好的时序预测方法，热门程度可见一斑。目前频域+MLP还处于新兴阶段，没那么卷，想发论文的同学可以考虑。

为了帮同学们抓紧机会，我已经挑选好了8篇频域+MLP的优秀论文分享，代码基本都有，想快点找idea发顶会的别错过啦~

论文原文+开源代码需要的同学看文末

ALOFT: A Lightweight MLP-like Architecture with Dynamic Low-frequency Transform for Domain Generalization

方法：论文介绍了一个名为ALOFT的新型域泛化架构。该架构结合了频域分析和类似多层感知器（MLP）的方法，通过动态低频变换来扰动局部纹理特征，同时保留全局结构特征，让模型能够更有效地从多个源领域中学习并泛化到未见的目标领域。

创新点：

• 提出了一种轻量级的MLP样式架构，结合动态低频变换（ALOFT），在领域泛化任务中表现优于现有的CNN方法。

• 从频率角度分析了MLP与CNN方法在领域泛化任务中的表现差异，发现MLP方法更能捕捉全局结构信息。

• 通过模拟训练中潜在的领域变化，引入ALOFT模块，有效地利用多样的低频光谱特征，增强了模型的泛化能力。

Frequency-domain MLPs are More Effective Learners in Time Series Forecasting

方法：论文提出了一种新的架构FreTS，它利用频域中的MLP来捕捉时间序列数据的全局模式和周期性特征，克服了传统MLP方法的局限性，广泛的实验验证了其在短期和长期预测任务中的优越性。

创新点：

• 提出了一种在频域中应用多层感知机（MLP）的新方法，称为FreTS，能够有效捕捉时间序列的全局模式和能量压缩优势。

• 通过频谱分析，使MLP能够获得信号的完整视图，更容易学习全局的空间/时间依赖性。

• FreTS架构包括两个主要阶段：领域转换（从时域信号转换为频域的复数）和频率学习（重新设计的MLP用于学习频率成分的实部和虚部）。

Speech Emotion Recognition Using RA-Gmlp Model on Time–Frequency Domain Features Extracted by TFCM

方法：论文提出了一种结合了频域特征提取和MLP（多层感知器）的模型来处理语音情感识别任务，通过引入高维卷积（HDC）和时间频率域卷积模块（TFCM）改善情感识别精度，填补了GMLP在注意力机制方面的空白。

创新点：

• 提出了基于残差注意力的门控多层感知机（RA-GMLP）结构，结合了多层感知机的全局特征识别能力和多头注意力机制的聚焦权重功能。

• 首次将高维卷积（HDC）引入情感识别任务，显著扩大了神经元的感受野，提升了识别准确性。

• 基于梅尔频率倒谱系数（MFCC）特征，创新性地提出时间-频率域卷积模块（TFCM）。

MLU-Net: A Multi-Level Lightweight U-Net for Medical Image Segmentation Integrating Frequency Representation and MLP-Based Methods

方法：论文介绍了一个名为MLU-Net的新型医学图像分割网络，通过将频域表示方法引入CNN，并结合tokenized MLP（多层感知器），实现了网络的轻量化和高效化。在此基础上，MLU-Net显著提高了分割效果，相较于传统U-Net，其参数量和计算量分别减少至1/39和1/61。

创新点：

• 引入精炼的频域表示方法，用于CNN的下采样和上采样过程，提高了语义信息获取的效率。

• 提出结合频域信息和tokenized MLP的轻量化网络架构MLU-Net。

• 在U-Net基础上引入频域上采样和下采样技术，优化了全局特征信息的获取。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“频域MLP”获取全部论文+开源代码

码字不易，欢迎大家点赞评论收藏