【论文笔记】Revisiting Spatial-Temporal Similarity: A Deep Learning Framework for Traffic Prediction

前言

由于大规模交通数据的日益可用性及其在现实世界中的重要性，交通预测在人工智能研究领域引起了越来越多的关注。例如，一个准确的出租车需求预测可以帮助出租车公司预先分配出租车。交通预测的关键挑战在于如何建模复杂的空间依赖性和时间动态。虽然在建模中考虑了这两个因素，但现有的工作对空间依赖性和时间动力学做出了强有力的假设，即空间依赖性在时间上是平稳的，时间动力学是严格周期性的。然而，在实践中，空间依赖性可能是动态的（即不时变化），而时间动力学可能从一个周期到另一个周期有一些扰动。在本文中，作者做了两个重要的观察：（1）位置之间的空间依赖性是动态的；（2）时间依赖遵循日和周模式，但其动态时间变化不是严格的周期性。为了解决这两个问题，作者提出了一种新的时空动态网络(STDN)，该网络引入了一种流门机制来学习位置之间的动态相似性，并设计了一种周期性转移的注意机制来处理长期的周期性时间转移。据作者所知，这是第一个在一个统一的框架内解决这两个问题的工作。作者在真实交通数据集上的实验结果验证了该方法的有效性。

本文贡献

模型架构

STDN的架构。(a)周期性转移的注意机制捕捉了长期的周期性依赖性和时间转移。对于每天，作者还使用LSTM来捕获顺序信息。(b)短期的时间依赖性由一个LSTM捕获。(c ) 流门机制通过控制空间信息的传播来跟踪动态的空间相似度表示；FC是指全连接层，Conv是指多个卷积层。(d)一个统一的多任务预测组件可以同时预测两种类型的交通量

局部时空网络

使用局部CNN处理局部空间依赖（处理方法同DMVST)，使用原始的LSTM处理时间依赖关系。

空间动态相似性–流门机制

why: 局部CNN通过局部连接和权重共享来处理局部结构的相似性。在局部CNN中，局部空间依赖性依赖于历史交通量的相似性。但其空间依赖性是平稳的，并不能充分反映目标区域与其相邻区域之间的关系。表示区域之间相互作用的一种更直接的方式是交通流量。如果两个区域之间存在更多的流动，它们之间的关系就会更强（即，它们更相似）。交通流可以用来显式地控制流量信息在区域之间的传播。因此，作者设计了一个流量门机制(FGM)，它明确地捕获了层次中的动态空间依赖性。
how(概述): 与局部CNN类似，作者构造了局部空间流图来保护流的空间依赖性。某一时间间隔内与某一区域相关的流量流分为两类，即在该时间间隔内从该区域的其他地方流出，从该区域向其他地方流出。在此时间间隔内，可以构造两个流矩阵，其中每个元素表示从/到其他相应区域的流入/流出。图©.给出了流出矩阵的一个例子
how(详细):
$Y_{i,t}^{(k)}=ReLU(W^{(k)}\ast Y_{i,t}^{(k-1)}+b^{(k)}）\otimes \sigma (F_t^{i,k-1})$
其中，$\sigma$是张量之间的元素级乘。F矩阵是通过卷积得到的流矩阵，Y即是代表流门的输出矩阵，表示空间依赖的动态变化。

时间动态相似性–周期性注意力转移机制

在局部时空网络中，只使用前几个时间间隔(通常是几个小时)，忽略了长期依赖性(如周期性)。所以应该考虑对预测目标的相对时间间隔(例如，昨天和前天的同一时间)进行建模。然而，单纯考虑相对时间间隔是不够的，这忽略了周期性的时间转移，即，交通数据并非严格意义上的周期性。例如，工作日的高峰时间通常在下午，但可以从下午4:30到6:00。由于交通事故或交通拥挤，周期性信息的时间转移在交通序列中普遍存在。下图中显示了在不同的天和周之间的时间转移。因此，本文设计了一个周期性注意力转移机制(Periodically Shifted Attention Mechanism)来解决这些问题。

这里的重点是处理不同天之间的周期性的变化。如图1(a)所示，包含了前P天对应的时间间隔来处理周期性依赖关系。对于每一天，为了解决时间移动的问题，在Q中进一步选择每天的Q时间间隔。例如，如果预测的时间是晚上9:00-9:30，选择预测时间的前后1小时(即8:00-10:30pm,Q = 5)。这些时间间隔$q\in Q$用于处理潜在的时间周期性转移。这里使用LSTM来表达每天