Multivariate Time Series Forecasting with Dynamic Graph Neural ODEs（TKDE）

长期以来，多元时间序列预测在能源消耗和交通预测等实际应用中受到了广泛关注。虽然最近的方法显示出良好的预测能力，但它们受到三个基本限制。(i).离散神经体系结构:交错单独参数化的空间和时间块来编码丰富的底层模式，导致不连续的潜在状态轨迹和更高的预测数值误差。(ii)高复杂性:离散方法通过专用设计和冗余参数使模型复杂化，导致更高的计算和内存开销。依赖于图先验:依赖于预定义的静态图结构限制了它们在现实应用中的有效性和实用性。在本文中，我们提出了一个用动态图神经常微分方程(MTGODE)预测多元时间序列的连续模型，解决了上述所有局限性。具体而言，我们首先将多元时间序列抽象成节点特征随时间演化、图结构未知的动态图。然后，我们设计并解决了一个神经ODE来弥补缺失的图拓扑，统一空间和时间消息传递，允许更深入的图传播和细粒度的时间信息聚合来表征稳定和精确的潜在时空动态。我们的实验从不同的角度证明了MTGODE在5个时间序列基准数据集上的优势

背景：1）多元时间序列预测在很大程度上依赖于对潜在的时空相关性建模，这直接影响了上述相关性和许多其他现实应用的可靠性。

2）神经网络图(gnn)在同时模拟多个时间序列之间的空间和时间相关性方面显示了巨大的潜力

挑战：

Challenge 1: Discrete Neural Architectures 

Challenge 2: High Complexity.  

Challenge 3: Rely on Graph Priors.

问题：

 

 

框架

 

 our method mainly consists of three main components, namely the data preprocessing, continuous spatial-temporal encoding, and downstream task decoding

给定一组多元时间序列，首先将其映射到具有1x 1卷积核的潜在空间，通过图构造函数动态获取底层拓扑结构。然后，为了提取和编码输入序列丰富的交错时空模式，我们提出了一个动态图常微分方程，其特征是两个优雅耦合的连续过程，即连续图传播(CGP)和连续时间聚合(CTA)。 

为了有效地提取和聚合细粒度的时间模式，我们用提出的CTA进程替代离散时间卷积，它不仅以连续的方式对底层复杂的时间动态建模，而且还解开聚合深度和内存瓶颈之间的联系。在MTGODE中，提出的连续空间和时间消息传递机制被优雅地统一起来，并由单一的ODE描述。这样，我们的方法可以通过简单求解此ODE，以完全连续的方式对任意多元时间序列的复杂潜在时空动力学进行有效建模。 

1.1)Continuous Graph Propagation 

在MTGODE中，我们基本上集成了时间聚合和图传播过程，以从历史观测中捕获丰富的时空模式。在每个聚合步骤中，为了简单起见，时间序列之间的空间依赖性可以通过特定图快照上的特征传播和线性变换的组合来表征 

1.2)Continuous Temporal Aggregation

 

 

...........................(跳过)

EXPERIMENTAL STUDY