文献阅读（25）AAAI2020-EvolveGCN：Evolving Graph Convolutional Networks for Dynamic Graph

本文是对《EvolveGCN：Evolving Graph Convolutional Networks for Dynamic Graph》一文的浅显翻译与理解，如有侵权即刻删除。

朋友们，我们在github创建了一个图学习笔记库，总结了相关文章的论文、代码和我个人的中文笔记，能够帮助大家更加便捷地找到对应论文，欢迎star~

Chinese-Reading-Notes-of-Graph-Learning

更多相关文章，请移步：文献阅读总结：网络表示学习/图学习

Title

《EvolveGCN：Evolving Graph Convolutional Networks for Dynamic Graph》

——AAAI2020

Author: Aldo Pareja

总结

1 GCN

文章利用GCN学习节点表征，并用GRU或LSTM学习GCN中的参数，即权重矩阵。这样其权重矩阵就能够随着时间不断演化，而最终需要学习的参数，只是GRU或LSTM中用来演化权重矩阵的参数。提出的EvolveGCN模型示意图如下：

即在每个时刻，都用RNN模型演化GCN中的参数，而GCN最终的计算公式如下：

其中A_t即为网络在t时刻的加权邻接矩阵，在这里要先进行规范化才能代入GCN计算。该模型的输入为加权邻接矩阵A_t和节点特征矩阵X_t，其中X_t用于生成节点在t时刻的初始嵌入，而A经过一系列变化后用于在每个时刻输入GCN生成节点嵌入。值得注意的是，GCN在每个时间点都设置了两层用于学习嵌入，因此节点的初始嵌入是针对不同时间点的，即H_t^(0)，0表示GCN层数，这一嵌入在该时间段还需要输入GCN学习更高层次的嵌入。

那么在GCN中，规范化的加权邻接矩阵和节点在该时刻的嵌入都已经得到了，就只需要对参数，即权重矩阵W进行相关处理。

2 权重矩阵演化

文章提出了两种选择，一种是基于GRU，将上一时刻的权重矩阵和节点嵌入放入GRU进行计算得到该时刻权重矩阵，有：

一种是基于LSTM，直接对上一时刻的权重矩阵进行保留和遗忘，得到该时刻权重矩阵，有：

其示意图如下：

对于GRU和LSTM，都需要解决一个问题，即输入要从向量变成矩阵，文章给出的解决办法是将节点向量按行排列，就得到了输入矩阵。此外，GRU输入的是节点向量和权重两个矩阵，还需要解决矩阵维度匹配的问题，文章采用的办法是整合出节点的k个最有意义向量，从而匹配权重矩阵的维度。伪代码如下，其中g即为GRU的函数：

关于GRU和LSTM的基本框架构造，在此不再赘述。文章认为，当数据集中包含节点特征信息时，使用GRU效果会更好。而数据集中如果没有节点特征信息，同时网络结构有更为重要时，LSTM效果会更好。