【时空预测】是一种专门处理具有时间和空间属性的数据的分析技术,随技术发展,用于解决复杂的时空问题的新预测方法和模型不断涌现。仅2024上半年,时空大模型UrbanGPT、通用城市时空预测模型UniST、即插即用的时空提示调整机制FlashST……各大顶会收录的论文中,时空预测相关研究成果不胜枚举。
时空预测大爆发,发展前进依旧广阔,绝对是2024发论文的好方向。为了帮助大家挖掘更多创新点,沃的顶会整理了36篇 时空预测相关顶会最新收录论文,提炼了方法和创新点,方便各位学习。
需要的同学添加公众号【沃的顶会】 回复 时空预测36 即可全部领取
ICLR2024
1. 生成式预训练框架 GPDiff
标题:A Generative Pre-Training Framework for Spatio-Temporal Graph Transfer Learning
| 用于时空图迁移学习的生成式预训练框架
方法:本文提出了一种名为 GPDiff 的新生成式预训练框架,用于 STG 迁移学习。采用对一组使用来自源城市的数据进行优化的模型参数进行生成预训练。将 STG 迁移学习重铸为预训练一个生成超网络,该超网络在提示的指导下生成定制的模型参数,从而适应不同的数据分布和城市特定特征。GPDiff 采用扩散模型和基于转换器的去噪网络,该去噪网络与模型无关,可与强大的 STG 模型集成。
创新点:
1)提出利用预训练范式在不同的城市之间实现有效的细粒度时空知识转移,这是利用预训练模型处理城市数据稀缺场景的开创性实践。
2)提出了一种基于扩散模型的新颖的生成式预训练框架,称为GPDiff。它利用基于Transformer 的扩散模型和城市特定的提示词为城市生成自适应参数,为改进 STG迁移学习开辟了新的可能性。
2. 高斯Cox过程模型
标题:Bayesian Optimization through Gaussian Cox Process Models for Spatio-temporal Data
| 通过高斯Cox过程模型对时空数据进行贝叶斯优化
方法:该文介绍了一种新的高斯Cox过程的后验推断极值方法,该方法利用拉普拉斯近似和核变化技术将问题转化为新的再现核希尔伯特空间,使其在计算上更加易于处理。利用研究结果,提出了一个基于高斯Cox过程模型的贝叶斯优化(BO)框架,并进一步开发了一种高效计算的Nyström近似。
创新点:
1)提出了一种新的极大值高斯Cox过程的后验推论。它使我们能够获得潜在强度函数的函数后验和后验的协方差,从而扩展了通常关注特定链接函数或估计后验均值的现有工作。
2)提供了一个基于高斯 Cox过程的新的 B0 框架,允许设计各种获取函数。合成和真实世界数据集上的实验结果表明,在估计时空数据和支持未知函数的 B0方面,与基线相比有了显著的改进。
3. 演化图傅里叶变换(EFT)
标题:Beyond Spatio-Temporal Representations: Evolving Fourier Transform for Temporal Graphs
| 超越时空表示:时态图的演化傅里叶变换
方法:本文提出了图傅里叶变换(EFT),这是第一个捕获时间图上演化表示的可逆谱变换,并开发了一种用EFT诱导的简单神经模型,用于捕获演化图谱。
创新点:
1)介绍了一种基于理论基础将时态图转换为频域的新方法:演化图傅里叶变换 (EFT),这是第一个捕获时态图上演化表示的可逆光谱变换。
2)为了对连续时间动态图的拉普拉斯量进行优化,提出了伪谱松弛来分解变换过程,提高了在实际应用中的计算效率。
3)证明了所提出的转换与变分目标精确解之间的误差是上界有界的,并研究了其性质,进一步证明了时态图的实际有效性。
需要的同学添加公众号【沃的顶会】 回复 时空预测36 即可全部领取
IEEE TIV
1. 动态STGCN模型
标题:Dynamic Spatio-temporal Graph Neural Network for Surrounding-aware Trajectory Prediction of Autonomous Vehicles
| 动态时空图神经网络在自动驾驶汽车环绕感知轨迹预测中的应用
方法:本文提出了一个动态STGCN模型,用于预测交通场景中车辆的轨迹分布。模型由两个主要组件组成:时空图卷积网络(STGCN)和时间卷积网络(TCN)模块。STGCN模块对车辆轨迹的图形表示执行时空卷积操作,以嵌入驾驶特征。TCN模块提取车辆轨迹的时序依赖性,并使用这些历史轨迹观测同时推断所有车辆的轨迹。在每个交通场景中,GCN 将车辆轨迹作为输入,并学习它们之间的空间依赖关系,将结果映射到特征图;TCN模块在特征图上操作以提取时间依赖关系并预测未来轨迹。
创新点:
1)这项研究实现了用一个动态的时空图卷积网络来预测交通场景中车辆的轨迹分布。对有向图进行了图卷积网络(GCN)运算,以捕获每个交通场景中车辆之间的空间依赖性。
2)为了准确复制车辆之间的交互作用,提出了一种新的加权邻接矩阵,该矩阵由车辆的战略位置(角度编码)和交通场景中车辆之间的距离倒数推导得出。
3)此外,采用了时间卷积网络(TCN)来学习轨迹序列的时间依赖性,并使用了历史轨迹解码未来的驾驶状态。
2. 贝叶斯神经场(BavesNF)
标题: Scalable Spatiotemporal Prediction with Bayesian Neural Fields
| 使用贝叶斯神经场的可扩展时空预测
方法:本文提出的统计模型BayesNF结合了一种新的深度神经网络架构,用于高容量函数估计,并使用分层贝叶斯推理进行稳健的不确定度量化。通过一系列光滑可微变换定义先验,使用通过随机梯度下降训练的变分学习代理对大规模数据进行后验推理。
创新点:
1)本工作提出了贝叶斯神经场(BavesNF),这是一种通用的统计模型,用于推断时空域上的丰富概率分布,可用于包括预测、插值和变差在内的数据分析任务。BayesNF 将用于高容量函数估计的新型深度神经网络架构与用于鲁棒不确定性量化的分层贝叶斯推理相结合。
2)评估了 BavesNF相对于突出的统计和机器学习基准的性能,在包含数十万至数十万测量值的气候和公共卫生数据集上的各种预测问题中显示出显着的改进。
AAAI 2024
1. 全连接时空图神经网络(FC-STGNN)
标题:Fully-Connected Spatial-Temporal Graph for Multivariate Time Series Data
| 多元时间序列数据的全连接时空图
方法:本文提出了一种名为全连接时空图神经网络(FC-STGNN)的新方法,包括FC图构造和FC图卷积两个关键组件,通过考虑DEDT之间的相关性,对MTS数据中的ST依赖性进行全面建模。
创新点:
1)为了解决现有方法无法捕捉不同时间戳的不同sEnsors(DEDT)之间相关性这一局限,提出了一种名为全连接时空图神经网络(FC-STGNN)的新方法。
2)对于图构建,设计了一个衰减图,根据它们的时间距离连接所有时间戳上的传感器,使能够通过考虑 DEDT 之间的相关性来全面建模 ST 依赖性。
3)设计了具有移动池化GNN层的FC图卷积,以有效地捕获ST依赖性以学习有效的表示。大量实验表明,与SOTA方法相比,FC-STGNN在多个MTS数据集上的有效性。
需要的同学添加公众号【沃的顶会】 回复 时空预测36 即可全部领取