KDD 2020 开源论文 | 图神经网络多变量时序预测

最新推荐文章于 2024-09-16 22:01:01 发布

PaperWeekly

最新推荐文章于 2024-09-16 22:01:01 发布

阅读量7.4k

点赞数 17

文章标签：神经网络算法 python 机器学习人工智能

本文链接：https://blog.csdn.net/c9yv2cf9i06k2a9e/article/details/109475552

版权

本文介绍了KDD 2020论文《Multivariate Time Series Forecasting with Graph Neural Networks》的研究，该论文提出MTGNN框架，利用图神经网络解决多变量时序预测中的空间依赖问题。MTGNN通过图学习层自适应学习变量间关系，并结合图卷积和时序卷积模块捕捉空间和时间依赖。实验表明，MTGNN在多变量时序预测任务上表现出色，优于现有SOTA模型。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

©PaperWeekly 原创 · 作者｜马敏博

学校｜西南交通大学硕士生

研究方向｜命名实体识别

本次分享的论文是 KDD 2020 的一篇工作，出发点是为了更好地建模多变量时间序列数据中成对变量之间的潜在空间依赖。作者提出了一种通用的图神经网络框架 MTGNN，通过图学习模块融合外部知识和变量之间的单向关系，再使用 mix-hop 传播层和膨胀 inception 捕获空间和时序依赖。

此外，为更好地训练模型，结合课程学习提出了一种学习算法。在四个常规多变量时序数据集以及两个图数据集上的实验表明，对比现有取得 SOTA 的模型 MTGNN 具有较强的竞争力，在多个数据集上取得最优表现。

论文标题：

Connecting the Dots: Multivariate Time Series Forecasting with Graph Neural Networks

论文来源：

KDD 2020

论文链接：

https://arxiv.org/abs/2005.11650

代码链接：

https://github.com/nnzhan/MTGNN

本文将从以下方面对这篇工作进行介绍：

背景
挑战
MTGNN框架
实验解读
个人总结

背景

多变量时序预测在经济、金融、生物信息和交通等领域有广泛应用。相较于单变量时序预测，需要建模的问题更复杂，因为每个变量不仅与其历史值有关，还要考虑变量之间的依赖关系。

然而，现有的多变量时序预测方法并没有有效地探索变量之间的潜在空间依赖关系。统计方法如 VAR 和 GP 假设变量之间存在线性依赖关系，随着变量的增加，模型复杂度二次方增长，容易导致过拟合。深度学习方法如 LSTNet [1] 和 TPA-LSTM [2]，虽然能够捕获非线性关系，但是无法明确地建模成对变量之间的依赖关系。

图是一种数据结构，可以描述节点之间的关系。目前，图神经网络由于排列不变性、局部连接以及组合性的特点，在处理图数据上取得较大的成功。多变量时序预测从图视角来看，变量可以当作节点，它们通过隐层依赖关系相互连接。所以，图神经网络可以建模多变量时序预测，这也是这篇论文的主要出发点。

挑战

时空图神经网络是最适合多变量时序预测任务的图神经网络类型，因为多变量时序预测问题需要考虑时间维和空间维的信息表达。通常时空图神经网络以多变量时序数据和外部图结构作为输入，预测时序数据的未来值或标签。相较于未利用结构信息的方法，能够取得较大提升。但是，该方法仍然存在两个方面的挑战：

未知的图结构 ：使用图神经网络建模时序预测任务时，大多依赖于预定义的图结构。但是，大多数情况下，多变量时序预测是没有明确的图结构，需要从数据中去学习变量之间的关系（图）。
图结构与图神经网络共同学习：现有方法大多专注于如何设计合适的图神经网络结构，却忽略了有时图结构（通常为邻接矩阵）有可能不是最优的，也需要在训练中优化。因此，对于时序问题，如何在一个 end2end 的框架下同时学习图结构和图神经网络是一个问题。