Towards Spatio-Temporal Aware Traffic Time Series Forecasting

Towards Spatio-Temporal Aware Traffic Time Series Forecasting

摘要：由于复杂的时空动态，不同地点的时间序列往往具有不同的模式，交通时间序列预测具有挑战性;对于相同的时间序列，模式可能会随着时间而变化，例如，一天中某些时段显示出更强的时间相关性。尽管最近的预测模型，特别是基于深度学习的模型，显示出了良好的结果，但它们是时空不可知论的。这种时空不可知模型使用一个共享的参数空间，而不考虑时间序列位置和时间周期，它们假设时间模式在不同位置是相似的，不随时间演变，这可能并不总是成立，因此导致次优结果。在这项工作中，我们提出了一个框架，旨在将时空不可知论模型转化为时空感知模型。为此，我们将不同位置的时间序列编码为随机变量，从中生成特定位置和时变的模型参数，以更好地捕捉时空动态。我们将展示如何将框架与规范关注点集成，以实现对时空的关注。其次，为了弥补时空感知模型参数生成过程带来的额外开销，我们提出了一种新的窗口关注方案，它有助于将复杂性从二次型降低到线性型，使时空感知的关注也具有竞争效率。我们在四个交通时间序列数据集上展示了强有力的经验证据，其中提出的时空感知关注在准确性和效率方面优于最先进的方法

背景：

1）这就需要空间感知建模，不同的模型参数可以用于从不同位置对时间序列建模（不同传感器之间的时间序列关系）

2）这就需要时间感知建模，不同的模型参数可以用于不同时间的时间序列建模。（同一个传感器内部的时间序列周期变化关系）

综上所述，复杂的时空交通动态需要时空感知预测模型，该模型能够(1)在不同位置捕捉不同的模式;(2)能快速适应不同时间段的格局变化

总结：论文感觉乱糟糟的，阅读感不好。文中主要提出了基于时间和基于空间的两个因素。重点在于提出基于窗口方法降低模型空间复杂度的方法

Problem Definition

METHODOLOGY

1）Spatio-Temporal Aware Modeling

空间感知的随机潜在变量z(i)有望代表第i个时间序列中最普遍和最显著的模式。它是空间感知的，因为来自不同地点的时间序列有不同的变量z(i)，因此有望从不同地点捕捉不同的模式。由于我们不依赖于潜在变量分布的任何先验知识，而且许多真实世界的过程遵循高斯分布[50]，我们假设它们在k维空间中遵循多元高斯分布

3) Decoding to Spatio-Temporal Aware Model Parameters:

Efficient Spatio-Temporal Aware Attention

我们建议将大小为H的输入时间序列分解为W = H/S的时间维度小窗口，其中S为窗口大小。

Full Model

在使用注意时，通常将多层注意叠加在一起以提高精度。图显示了完整的模型，它由多个层次的时空感知窗口注意(ST-WA)组成，其中使用了特定位置和时变投影矩阵。

Loss Function and Optimization

实验