DSTAGNN: Dynamic Spatial-Temporal Aware Graph Neural Network for Traffic Flow Forecasting
全文结构
摘要:
由于道路网络的复杂时空依赖性,导致获得高准确度的交通预测难。所以这篇文章提出了DSTAGNN解决这些问题。
1.由于历史数据携带道路网络的内在动态信息,利用动态感知图取代卷积中的预定义图
2.构建新图神经网络,包括利用改进的多头注意力机制标识节点之间的相关性;利用多尺度门控卷积实现从多感受野特征获得大范围(wide range of dynamic temporal dependency)的动态时间依赖。
经典方法的分析
1.级联CNN和RNN
适用于 规则网络空间的局部空间相关性,但是在长距离空间相关性非网格道路不可行
2.GCN
适用于非欧几里得空间结构,通过时间序列去预测时空相关性,但是采用静态邻接矩阵标识空间结构
目前的图卷积包括:光谱型 spectral-type GCN 空间型 spatial-type GCN
现存模型没有明确考虑道路网络节点的动态时空先关性
论文贡献
缺乏同时关注短期和长期的时间相关性,造成动态时间依赖性有局限,DSTAGNN可以解决
1.历史数据 ——》空间关联性的动态特性——》构造动态感知图图(取代预定义节点的邻接矩阵)
2.新的时空注意力机制实现获取动态空间关联性。利用GCN中基于多阶切比雪夫多项式的多尺度邻域内的动态空间相关性(空间性图卷积)。其中切比雪夫多项式每阶的输入空间权重可以自适应的调整(获取范围更广的空间维度特征,利用切比雪夫多项式缩放的拉普拉斯矩阵);多头注意力机制可以实现大范围的时间依赖性。
3.改善的门控卷积,通过将多感受野的时间特征与多尺度门控卷积融合,进一步提高动态时间依赖性的敏感度。
网络结构
由ST blocks 和 预测层 组成
ST blocks(ST注意模块(SA+TA)+ST卷积模块(空间图卷积+时间门控卷积)) 串联,用残差网络连接预测层
动态感知图
时空注意模块
通过顺序组合时间注意(TA)和空间注意(SA),增强动态时空依赖。
时间注意(TA):
引入多头注意机制可以增强长范围时间依赖
从第(l-1)层的ST模块输出的N个点的M个时间步长那个的c(l-1)维特征通过 残差注意力机制得X。输入到时间注意力模块中。 残差注意力机制允许融合浅和深的时间依赖,获得有效的动态时间依赖;减低梯度消失风险。
过程:H个注意头进行注意力计算——》拼接为O——》进行全连接得o.——》残差连接o.和X.——》归一化得输出Y
空间注意(SA)
将Y进行转置,一维卷积等操作获得空间信息
时控门控卷积:
Gated Tanh Unit(GTU)
公式
改进的GTU(M-GTU)
链接三个不同卷积核GTU操作——》残差链接初始输入——》池化——》RELU——》输出
优势:1.防止梯度消失
2.保持非连续性
3.捕获长,短期时间特征(via multi-scale causal convolution)
实验方法:
烧灼实验(控制变量法)