论文笔记《Traffic Flow Forecasting with Spatial-Temporal Graph Diffusion Network》

【文章】Traffic Flow Forecasting with Spatial-Temporal Graph Diffusion Network
【作者】Zhang X, Huang C, Xu Y, et al.
【来源】AAAI 2021
【代码】https://github.com/jillbetty001/ST-GDN

现存问题

• 大多数研究聚焦于临近区域的近邻空间相关性，忽略了全局地理上下文信息
• 大多数研究无法对具有时间依赖性和多分辨率的复杂流量转移规律进行编码

本文概览

提出名为 Spatial-Temporal Graph Diffusion Network, ST-GDN 的交通流量预测框架，该模型具备特点：

• 能学习到局部 region-wise 空间依赖性
• 能从全局角度表征空间语义信息
• 多尺度 attention 网络能捕获 multi-level 时间动态性

本文方法

Problem Definition

• 将城市分成 $I\ast J$ 互不相交区域，$r_{i,j}$ 表示一个空间区域
• $\mathbf{X}\in {\mathbb{R}}^{I\times J\times T}$ 中每个 $x_{i,j}^t$ 表示区域 $r_{i,j}$ 第 $t$ time slot(e.g. hour or day) 的流量。${\mathbf{X}}^{\alpha }$ 表示入流，${\mathbf{X}}^{\beta }$ 表示出流。

Methodology

Temporal Hierarchy Modeling

该部分和 ST-ResNet 一样，将时间轴分为 hour, day, week 三部分，$T_p$ 表示序列数据的分辨率，${\mathbf{x}}_{i,j}^{T_p}$ 即表示当前分辨率下的流量序列。该部分在建模上使用 自注意力机制 编码，补充（参考 邱锡鹏，神经网络与深度学习，机械工业出版社，https://nndl.github.io/, 2020.）：

假设输入序列为$\mathbf{X}=\left[{\mathbf{x}}_1,\cdots ,{\mathbf{x}}_N\right]\in {\mathbb{R}}^{D_x\times N}$，输出序列为$\mathbf{H}=\left[{\mathbf{h}}_1,\cdots ,{\mathbf{h}}_N\right]\in {\mathbb{R}}^{D_v\times N}$

• 针对每个输入$x_i$，将其线性映射到三个不同空间，映射过程可简写为：$$\begin{array}{l}\mathbf{Q}={\mathbf{W}}_q\mathbf{X}\in {\mathbb{R}}^{D_k\times N}\\ \mathbf{K}={\mathbf{W}}_k\mathbf{X}\in {\mathbb{R}}^{D_k\times N}\\ \mathbf{V}={\mathbf{W}}_v\mathbf{X}\in {\mathbb{R}}^{D_v\times N}\end{array}$$
  注意：$\mathbf{Q}=\left[{\mathbf{q}}_1,\cdots ,{\mathbf{q}}_N\right],\mathbf{K}=\left[{\mathbf{k}}_1,\cdots ,{\mathbf{k}}_N\right],\mathbf{V}=\left[{\mathbf{v}}_1,\cdots ,{\mathbf{v}}_N\right]$ 分别由查询向量、键向量和值向量构成的矩阵。该部分通常使用点积计算注意力得分，查询向量和键向量的维度是相同的
• 利用缩放点积作为注意力打分函数，输出向量可简写为：$\mathbf{H}=\mathbf{V}\mathrm{softmax}\left(\frac{{\mathbf{K}}^{\top }\mathbf{Q}}{\sqrt{D_k}}\right)$（本文字符表示为$Y^p$）

Traffic Dependency Learning with Global Context

该部分目的是捕获全局依赖关系，定义区域图$G=(R,E)$，其中 $R$ 表示区域集合，$E$ 表示区域间成对的相关关系。建模方式 （注：这部分很像 GAT）：

• 使用多头注意力 $h\in [1,\dots ,H]$
• 图 $G$ 融合方式（代表不同区域之间的特征消息传递机制） $m_{(i,j)\leftarrow \left(i^{\prime },j^{\prime }\right)}^p={\Vert }_{h=1}^H{\omega }_{(i,j);\left(i^{\prime },j^{\prime }\right)}^h\cdot {\mathbf{Y}}^p\cdot {\mathbf{W}}^p$，其中 $Y^p$ 是刚刚自注意力求出来的隐藏层表示，$W^p$ 是参数，$${\omega }_{(i,j);\left(i^{\prime },j^{\prime }\right)}^h=\frac{\exp \left(LR\left({\mathbf{\alpha }}^T\left[{\tilde{\mathbf{y}}}_{i,j}^p\Vert {\tilde{\mathbf{y}}}_{i^{\prime },j^{\prime }}^p\right]\right)\right)}{{\sum }_{\left(i^{\prime },j^{\prime }\right)\in \mathcal{N}(i,j)}\exp \left(LR\left({\mathbf{\alpha }}^T\left[{\tilde{\mathbf{y}}}_{i,j}^p\Vert {\tilde{\mathbf{y}}}_{i^{\prime },j^{\prime }}^p\right]\right)\right)}$$ 用于表示潜在 the underlying attentive relevance （并不知道咋翻译…），其中 ${\tilde{\mathbf{y}}}_{i^{\prime },j^{\prime }}^p={\mathbf{y}}_{i^{\prime },j^{\prime }}^p\cdot {\mathbf{W}}^p$。
• the aggregated feature embedding of 区域 $r_{i,j}$ 表示为 ${\mathbf{z}}_{i,j}^p=f\left({\sum }_{r_{i^{\prime },j^{\prime }}\in {\mathcal{N}}_{i,j}}{m}_{(i,j)\leftarrow \left(i^{\prime },j^{\prime }\right)}^p\right)$
• 高阶信息传递（从第 $l$ 层传到第 $l+1$ 层）${\mathbf{z}}_{i,j}^{p,(l+1)}\leftarrow \underset{i\in N_u(j);j^{\prime }\in N_v(j)}{\mathrm{Aggregate}}($ Propagate $\left({\mathbf{z}}_{i,j}^{p,(l)},G\right))$
• 全局表征 ${\mathbf{z}}_{i,j}^p={\mathbf{z}}_{i,j}^{p,(l)}\oplus \dots \oplus {\mathbf{z}}_{i,j}^{p,(L)}$

Region-wise Relation Learning with Graph Diffusion Paradigm

该部分利用图扩散网络对区域间的空间关系建模。先看公式：$$f{\left({\mathbf{z}}_{i,j}^p\right)}_{\Theta }=\sum _{k=0}^{K-1}\left({\theta }_{k,1}{\left(D_o^{-1}\mathbf{A}\right)}^k+{\theta }_{k,2}{\left(D_i^{-1}{\mathbf{A}}^{\top }\right)}^k\right){\mathbf{z}}_{i,j}^p$$

• $K$ 表示扩散阶数，即当前区域在计算时和 $K$ 阶邻居建立了关系
• ${\theta }_{k,1},{\theta }_{k,2}\in {\mathbb{R}}^{K\times 2}$ 是参数
• $A$ 根据顶点距离计算出的加权邻接矩阵，$D_o=A\cdot I$ 表示出度对角矩阵

diffusion convolutional layer 的输出为： ${\mathbf{\Lambda }}_q^p=\mathrm{Leaky}\mathrm{ReLU}\left({\sum }_{d^{\prime }=1}^{d}f{\left({\mathbf{Z}}_{d^{\prime }}^p\right)}_{{\Theta }_{q,d^{\prime }}}\right)$
融合多粒度交通模式的表征为：

Evaluation

略

思考

看这篇文章时首先被复杂模型图震住了，边看边想为什么要这样设置各个模块，简单理一下：

• Temporal Hierarchy Modeling 部分是个 self-attention，目的是将weekly、daily、hourly 三类时序数据映射到相同空间表示中
• Traffic Dependency Learning with Global Context 部分使用了多头注意力机制，用于进行全局表征。有个问题，这里的每个多头注意力，都是在当前类型时间序列数据下做的，能算得上全局吗，不太明白。而且conclusion部分又说是“ local spatial contextual information” 实在是太让人迷惑了…$^&&!&#@&
• Region-wise Relation Learning with Graph Diffusion Paradigm 部分使用扩散卷积，这里是基于之前的注意力编码的结果继续表征，这真的可以吗。

总之，是个没看明白的文章。代码也没看明白（attention部分代码和STDN）这篇文章的代码一毛一样，但是这篇文章除了简单self-attention之外，你还有个多头注意力阿…而且里面还做了修改，代码是咋体现的。迷惑。