时空预测又爆火了！新SOTA实现零样本精准预测

时空预测又有新突破啦！港大、华南理工等提出了时空大模型UrbanGPT，在性能上猛超现有SOTA，实现零样本即可时空预测！

另外还有清华的首个通用城市时空预测模型UniST、能即插即用快速适配的时空提示调整机制FlashST...这些效果非常nice的研究都被ICML等各大顶会顶刊收录，可见今年的时空预测依然是好发论文的方向。

目前有关时空预测的创新偏向智能化和自动化，专注于提供更准确的预测信息，以满足各种实际场景需求。因此这个方向的发展空间还是很大的，有很多创新点等我们去挖掘。

为了方便想发论文的同学，我这次整理了9篇时空预测相关的顶会顶刊paper，都是最新，这些方法的创新点我也简单提炼了，方便大家参考，开源代码也有。

论文原文+开源代码需要的同学看文末

UrbanGPT: Spatio-Temporal Large Language Models

方法：论文提出了UrbanGPT，它无缝地将空间-时间依赖编码器与指令调整范式相结合，有效地将空间-时间上下文与大语言模型相匹配。通过将这些组成部分整合在一起，该模型能够更好地理解和预测空间-时间模式，在零样本空间-时间学习场景中展现出了卓越的泛化能力，超过了现有基线模型的表现。

创新点：

• 提出了 UrbanGPT，这是一个针对空间-时间预测的大型语言模型，能够预测不同数据集中的各种城市现象，尤其是在数据有限的情况下。

• UrbanGPT 提出了一个空间-时间预测框架，通过将空间-时间依赖编码器与指令调整模式无缝集成，有效地将空间-时间背景与大型语言模型相结合。

FlashST: A Simple and Universal Prompt-Tuning Framework for Traffic Prediction

方法：论文提出了FlashST框架，该框架通过适应预训练模型到不同下游任务的特定特征，改进了不同时空预测场景中模型的泛化能力。该框架包括一个轻量级的时空提示网络和一个统一分布映射机制，能够捕捉上下文信号和建模时空依赖关系，同时通过分布映射机制实现预训练数据和下游数据之间的知识传递。

创新点：

• 引入了FlashST框架，该框架通过在不同的时空场景中捕获上下文信号和建模复杂的时空关系，有效地适应不同的时空预测任务。

• 提出了一种分布映射机制，用于将预训练数据和下游任务数据的分布进行对齐，促进知识传递和准确的预测结果。

• 在多个实验中验证了FlashST显著的有效性和泛化能力，显著提高了下游任务的预测性能，同时减少了20%到80%的训练时间。

UniST: A Prompt-Empowered Universal Model for Urban Spatio-Temporal Prediction

方法：论文介绍了UniST，这是一种通用的模型，用于处理城市空间-时间预测问题。UniST通过利用不同场景下的多样空间-时间数据、有效的预训练以捕捉复杂的空间-时间动态以及知识引导的提示来实现了成功。该模型在20多个空间-时间场景的广泛实验中证明了其在提升最新性能方面的有效性，特别是在少样本和零样本预测方面。

创新点：

• UniST通过灵活处理不同来源和特征的时空数据，实现了跨城市和领域的强大泛化能力。

• 预训练与提示调整：采用创新的预训练策略和时空知识引导的提示机制，提升模型性能。

• UniST在少样本和零样本预测任务中展现出色的表现，即使在只有有限或没有训练数据的情况下也能做出准确的预测。

Equivariant Spatio-Temporal Attentive Graph Networks to Simulate Physical Dynamics

方法：本文提出了一种等变的时空图神经网络（ESTAG），用于建模和预测物理系统的动力学行为。该模型利用等变离散傅里叶变换来提取周期特征，使用等变空间模块和等变时间模块进行空间和时间信息传递，并通过线性池化来预测未来的位置。

创新点：

• 提出了一种新的等变时空图神经网络，用于对物理动力学进行建模。该模型通过引入频域特征提取和等变的空间和时间模块，能够更准确地捕捉物理系统的时空依赖关系。

• 设计了一种新的变换方法，用于从历史数据中提取周期性特征，这有助于模型更好地理解和预测物理系统的动态行为。

• 通过考虑过去一段时间内的轨迹，模型能够处理物理动态中的非马尔可夫特性，即系统的未来发展不仅仅依赖于当前状态，还受到过去状态的影响。

关注下方《学姐带你玩AI》🚀🚀🚀

回复“时空顶会”获取全部论文+开源代码

码字不易，欢迎大家点赞评论收藏