点击名片
关注并星标
#TSer**#**
时间序列是用于记录动态系统测量的主要数据类型，由物理传感器和在线过程（虚拟传感器）大量生成。因此，时间序列分析对于解锁可用数据中隐含的信息财富至关重要。随着图神经网络（GNNs）的最新进展，基于GNN的方法在时间序列分析中出现了激增。这些方法可以明确地建模时间间和变量间的关系，而传统的方法和其他基于深度神经网络的方法在这方面却难以做到。
在这篇综述中，研究者对用于时间序列分析的图神经网络（GNN4TS）进行了全面的回顾，涵盖了四个基本方面：预测、分类、异常检测和插值。研究者的目标是指导设计者和实践者理解、构建应用程序和推进GNN4TS的研究。
论文地址：https://arxiv.org/abs/2307.03759
论文源码：https://github.com/KimMeen/Awesome-GNN4TS
论文介绍
随着传感和数据处理技术的进步，时间序列数据急速增长，成为最普遍的数据类型之一。这些数据不仅提供了对过去趋势的洞察，还有助于预测、分类、异常检测和数据插补等任务。时间序列数据的复杂性在于它们涉及时间和变量之间的复杂相互作用以及变量之间的关系。图神经网络（GNNs）成为学习非欧几里得数据表示的强大工具，能够捕捉到多样而复杂的关系，为建模真实世界的时间序列数据铺平了道路。这种建模方法在许多实际应用领域广泛采用，涉及不同类型的时间序列数据，包括交通、按需服务、能源、医疗保健、经济以及其他领域。
该综述的思路结构如下图所示：
包括四个基本维度：预测、分类、异常检测和插补。
该综述首先从任务和方法论的角度对现有的工作进行分类和讨论，然后深入探讨了GNN4TS领域内的六个热门应用领域，并提出了几个潜在的未来研究方向。主要贡献总结如下：
-
第一次对图神经网络在主流时间序列分析任务中的最新进展进行全面的综述。它涵盖了广泛的研究领域，并提供了对GNN4TS发展的整体视图；
-
该综述提出了一个统一的框架，从任务和方法论的角度对现有的工作进行结构化分类；
-
该综述进行了全面的回顾，不仅涵盖了领域的广度，还深入研究了各个研究的细节，并进行了细致的分类和讨论，为读者提供了对GNN4TS领域中最新技术的了解；
-
该综述也讨论了GNN4TS在各个领域中不断扩大的应用，突出了它在多个领域中的多样性和未来增长的潜力；
-
该综述为GNN4TS领域的未来工作提供了洞察和建议。
分类法
在本节中，研究者介绍了时间序列分析中GNN的全面面向任务分类体系。如下图所示，其展示了一个基于任务的分类法，涵盖了时间序列分析中的主要任务和主流建模视角，并展示了GNN4TS的潜力，主要在时间序列预测、异常检测、插补和分类四个类别上展现。
接下来，该综述引入一个统一的GNN架构方法论框架，探讨如何对各种任务中的时间序列进行编码。根据该框架，所有体系结构都由一个类似的基于图的相似处理模块fθ和一个专门针对下游任务的第二个模块pϕ组成。
如上图所示，四种任务下的GNN4TS的框架。综述从如下三个方面系统地描述该框架（以STGNNs为例）：
01
空间模块
为了建模时间序列之间的依赖关系，STGNNs采用了静态图上GNNs的设计原则。这可以进一步分为三种类型：频谱GNNs、空间GNNs和两者的组合（即混合型）。频谱GNNs基于频谱图理论，使用图移位算子（如图拉普拉斯算子）来捕捉图频域中的节点关系。不同的是，空间GNNs通过直接设计局部化到每个节点邻域的滤波器来简化频谱GNNs。混合方法结合了频谱和空间方法的优点。
02
时间模块
为了考虑时间序列中的时间依赖关系，STGNNs结合了时间模块，与空间模块协同工作来建模复杂的时空模式。时间依赖关系可以在时间域或频率域中表示。在第一类方法中，方法包括基于循环的方法（如RNNs）、基于卷积的方法（如TCNs）、基于注意力的方法（如Transformers）以及两者的组合（即混合型）。对于第二类方法，采用类似的技术，然后进行正交空间投影[28]，如傅里叶变换。
03
模型架构
为了整合这两个模块，现有的STGNNs在整体神经架构上可以是离散的或连续的。这两种类型可以进一步细分为两个子类：分解型和耦合型。在典型的分解型STGNN模型架构中，时间处理可以在空间处理之前或之后进行，无论是以离散的方式（如STGCN）还是以连续的方式（如STGODE）。相反，耦合模型架构指的是空间模块和时间模块交替进行的情况，例如DCRNN（离散）和MTGODE（连续）。其他作者将非常相关的分类称为时间-空间和时间与空间。
上图展示了一个一般的流程，展示了如何将STGNNs集成到时间序列分析中。给定一个时间序列数据集，首先使用数据处理模块对其进行处理，该模块执行必要的数据清洗和归一化任务，包括提取时间序列拓扑结构（即图结构）。随后，利用STGNNs获取时间序列表示，然后将其传递给不同的处理模块（即下游任务预测模块），执行各种分析任务，如预测和异常检测。
方法总结
01
基于GNN的预测模型
基于GNN的预测模型可以从多个角度分类和研究：从预测任务方面，包括多步预测和单步预测；从方法论方面，包括建模空间依赖关系、建模时间依赖关系、将空间和时间模块进行架构融合。
02
基于GNN的异常检测模型
循环模型在对变量对之间的显式建模上存在不足，限制了其在检测复杂异常方面的有效性。图神经网络通过有效地捕捉变量对之间的时间和空间依赖关系，显示出解决这一问题的潜力。
03
基于GNN的分类模型
将图神经网络应用于时间序列分类任务也是一项特别有趣的发展。通过将时间序列数据转化为图表示，可以利用图神经网络的强大能力来捕捉局部和全局的模式，并映射不同时间序列数据样本之间的复杂关系。
04
基于GNN的补全模型
图神经网络为时间序列填补带来了新可能性，能更好地表征空间和时间依赖关系，适用于复杂场景。基于图神经网络的时间序列填补可分为样本内和样本外填补，也可分为确定性和概率性填补。
总结
该综述致力于填补图神经网络在时间序列分析（GNN4TS）领域的知识空白，通过全面回顾最新进展并建立统一分类体系，从任务和方法两个角度对现有研究进行梳理。作为首部综合性综述，其广泛覆盖了预测、分类、异常检测和填补等多个任务，深入剖析了GNN4TS领域的最新技术水平。此外，研究者还深入探讨了空间和时间依赖关系的建模，并对各类模型架构进行了细致分类。该综述强调了GNN4TS在各领域中的广泛应用，展示了其强大的多功能性和未来的发展潜力。对于对这一领域感兴趣的机器学习从业者和专家，本综述无疑是一份宝贵的参考资料。最后，该综述提出了未来研究的方向，为GNN4TS领域的进一步发展提供了启示和指导。
点击下方名片关注时序人
设为星标，快速读到最新文章
欢迎投稿
转载请联系作者
时间序列学术前沿系列持续更新中 ⛳️
后台回复"讨论"，加入讨论组一起交流学习吧 🏃
往期推荐阅读
AAAI 2024 | 基于对比学习的时序表示方法：TimesURL
TKDE 2024 | 基于提示学习的时序预测模型：PromptCast
ICLR 2024 | 利用纯卷积结构也可以构建优秀的时间序列模型
TPAMI 2023 | 检测时间序列边界的通用框架：Temporal Perceiver
2023 年度盘点 | 时序图神经网络的热门应用速览（含交通、医疗等领域）
从 Rocket 到 MultiRocket：时间序列分类技术的进化之路
ICLR 2023 | PatchTST : 谁说 Transformer 在时序预测中不如线性模型？
NeurIPS 2023 | 基于 Llama 的单变量时序预测基础模型
NeurIPS 2023 | 时间序列相关论文一览（附原文源码）
NeurIPS 2023 | Koopa: 基于库普曼理论的非平稳时序预测模型
NeurIPS 2023 | 动态组合模型来应对时序数据分布的变化
觉得不错，那就点个赞吧
1407
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
