在时间序列预测中,时空预测是一种常见的方法,它指对未来某个时间点和某个地点的变量进行预测,由于待预测的数据同时存在时间属性和空间属性,因此也被称为时空数据分析或时空建模。
目前时空预测可以应用于交通流量、气候变化、人类移动、疾病传播等领域。常见的时空预测方法包括基于统计模型的方法、机器学习方法和深度学习方法等。
在刚刚过去的2023年间,时空预测相关的工作有了许多突破性进展,且在多个实际应用场景中得到了验证。今天我就帮大家梳理了这部分创新工作,论文原文都是各大顶会paper,包括2024年最新。主要涉及稀疏图时空预测、时空预测与大模型相结合、气象预测、交通预测、扩散模型与时空预测相结合、对比学习与时空预测相结合等等热门主题。
论文和代码合集看文末领
AAAI2024
Earthfasser: Versatile Spatio-Temporal Dynamical Systems Modeling in One Model
一个模型中的多功能时空动态系统建模
「简述:」EarthFarseer是一个用于模拟时空物理过程和观测的深度学习框架。它解决了现有模型的问题,如缺乏局部保真度、长期时间步长的预测性能差、可扩展性低和效率低下等。通过结合并行局部卷积和全局傅里叶变换架构,EarthFarseer能够动态捕捉局部-全局空间交互和依赖关系,并采用多尺度全卷积和傅里叶架构来高效地捕捉时间演化。实验结果表明,EarthFarseer在各种任务和数据集上具有强大的适应性,快速收敛并能够在长期时间步长预测中实现更好的局部保真度。
NeurIPS 2023
Sparse Graph Learning from Spatiotemporal Time Series
从时空时间序列中学习稀疏图
「简述:」论文提出了一种基于概率得分的图学习框架,用于从时空时间序列中学习稀疏图。该方法通过学习图上的分布来推断关系依赖项,并最大化任务的端到端性能。它采用蒙特卡洛基于得分的梯度估计的巩固方差减少技术,具有理论基础,并且在实践中是有效的。这种方法适用于时间序列预测问题,可以控制学习图的稀疏性和计算可扩展性,并实现最先进的性能。在合成和现实世界基准上的实证评估表明,该方法可以作为独立的图识别程序或端到端预测架构的图学习组件。
GPT-ST: Generative Pre-Training of Spatio-Temporal Graph Neural Networks
时空图神经网络的生成式预训练
「简述:」论文提出了一种时空预训练框架,用于提高交通管理和旅行规划中的预测性能。该框架包括一个时空掩码自动编码器作为预训练模型,并引入了一种自适应掩码策略来学习鲁棒的时空表示和不同关系的建模。实验证明该方法有效。
Improving day-ahead Solar Irradiance Time Series Forecasting by Leveraging Spatio-Temporal Context
利用时空上下文改进日前太阳辐射时间序列预测
「简述:」论文提出了一种利用卫星数据获取时空上下文信息的深度学习架构,用于实现对全球水平辐射照度的高精度日间时间序列预测。作者还提出了一种方法来提取每个时间步长的分布,作为预测的不确定性度量。该方法在太阳辐射照度预测方面表现出强大的性能,并在未观测到的太阳能站上进行了零样本泛化测试,有望促进太阳能的有效集成到电网中。
Taming Local Effects in Graph-based Spatiotemporal Forecasting
驯服基于图形的时空预测中的局部效应
「简述:」论文探讨了基于图形的时空预测中全局和局部之间的相互作用,并提出了一种方法来合理使用可训练的节点嵌入。作者认为可训练的节点嵌入可以用于学习专门的组件,并允许有效地结合共享的消息传递层和节点特定参数,以及将学习到的模型有效地转移到新的节点集。通过强有力的实证证据,作者提供了针对每个时间序列动态专业化图形模型的见解和指导,并表明这个方面在获得准确的预测中起着至关重要的作用。
DYffusion: A Dynamics-informed Diffusion Model for Spatiotemporal Forecasting
用于时空预测的动态扩散模型
「简述:」论文提出了一种名为DYffusion的方法,用于训练扩散模型进行时空预测。该方法利用数据中的动态信息,并将其与模型中的扩散步骤耦合起来。作者训练了一个随机的、时间条件插值器和预测器网络,分别模拟标准扩散模型的正向和反向过程。DYfusion自然地促进了多步和长程预测,允许高度灵活的连续时间采样轨迹,并能够在推理时加速采样以提高性能。该方法在多个领域的复杂动力学概率预测方面表现出色。
Deciphering Spatio-Temporal Graph Forecasting: A Causal Lens and Treatment
解读时空图预测:一种因果视角和处理方法
「简述:」时空图(STG)预测在现实应用中是一个重要任务,但现有的方法常常遇到时间上的分布外(OoD)问题和复杂的空间因果关系。论文提出了一个名为CaST的新方法,用因果关系的角度来应对这些问题。首先,作者用一个结构因果模型来理解数据是怎么生成的。然后,作者用特殊的技术来处理时间上的OoD问题,并模拟因果关系的传播方式。实验结果证明,CaST方法比现有的方法更有效,也更容易解释。
ICML2023
Spatial-Temporal Graph Learning with Adversarial Contrastive Adaptation
具有对抗对比自适应的时空图学习
「简述:」时空图学习是处理城市感知任务的重要方法,但现有的模型容易受到数据质量的影响。为了解决这个问题,作者提出了一种新的时空图学习模型(GraphST),它可以进行有效的自监督学习。这个模型能够自动提取关键信息,增强数据的鲁棒性。此外,作者还引入了对比学习范式,以更好地处理不同视图的数据。作者已经在现实数据集上进行了实验,证明这种方法非常有效。
KDD2023
Localised Adaptive Spatial-Temporal Graph Neural Network
局部自适应时空图神经网络
「简述:」论文探讨了局部自适应时空图神经网络(ASTGNNs)的可行性和程度。作者提出了一种名为自适应图稀疏化(AGS)的图稀疏化算法,成功地实现了ASTGNNs的局部化,甚至可以完全本地化,变成只关注时间关系。作者将AGS应用于两种不同的ASTGNN架构和九个时空数据集上,发现即使对ASTGNNs进行超过99.5%的稀疏化,测试准确率也没有下降。此外,ASTGNNs的本地化有可能减少大规模时空数据所需的大量计算开销,进一步实现ASTGNNs的分布式部署。
Robust Spatiotemporal Traffic Forecasting with Reinforced Dynamic Adversarial Training
具有强化动态对抗训练的稳健时空交通预测
「简述:」论文提出了一种将对抗性训练应用于时空交通预测任务的框架。作者发现传统的静态领域对抗性训练方法不能直接应用于交通预测任务,因为它们无法有效地抵御动态对抗攻击。因此,作者提出了一种基于强化学习的方法来学习最优的对抗样本节点选择策略,同时增强了动态攻击防御能力和减少了模型过拟合的风险。该方法在两个真实世界的交通数据集上进行了评估,并证明其优于其他基线方法,有效地提高了时空交通预测模型的对抗鲁棒性。
Spatial Heterophily Aware Graph Neural Networks
空间异质感知图神经网络
「简述:」论文提出了一种名为空间异质感知图神经网络(SHGNN)的模型,用于处理城市图中的空间异质性。作者指出,现有的异质性图神经网络在处理具有高空间多样性的城市图时仍然存在缺陷,这可能会降低其在城市应用中的效果。为此,作者设计了一个旋转缩放空间聚合模块和一个异质敏感空间交互模块,以自适应地捕捉不同空间组中的共性和多样的异质性。在三个真实世界的城市数据集上的实验表明,SHGNN优于其竞争对手。
WWW2023
Automated Spatio-Temporal Graph Contrastive Learning
自动化时空图对比学习
「简述:」在各种区域嵌入方法中,基于图的方法因其强大的结构表示能力而受到青睐。但它们面临数据噪声、缺失和时空分布不均等挑战。本文提出了一个名为AutoST的自动化时空图对比学习框架,通过异构图神经网络捕获多源数据的区域关系,并设计了一个增强方案来提高对噪声和分布问题的鲁棒性。实验表明,AutoST在多个真实世界数据集上的时空挖掘任务中表现优异。
Learning Social Meta-knowledge for Nowcasting Human Mobility in Disaster
学习社会元知识以预测灾害中的人类移动
「简述:」人类流动预测是交通规划、灾害应对的关键问题。在大型灾害时,流动模式与日常不同,预测更难。现有的预测主要关注日常交通。为此,作者研究灾害相关的Twitter数据,了解公众对灾害的认知和关注,以预测其对人类流动的影响。作者提出了一个元知识记忆时空网络(MemeSTN),融合社交媒体和人类流动数据。在三个真实灾难(日本台风、COVID-19疫情、美国飓风)上的实验证明了该方法的有效性。与现有模型相比,该模型在国家和州两个层面上都能在灾害情况下更好地预测人类流动。
关注下方《学姐带你玩AI》🚀🚀🚀
回复“时空预测”获取论文+代码
码字不易,欢迎大家点赞评论收藏