DyRep: Learning Representations over Dynamic Graphs解读

公众号 异度侵入

“ 图结构上的表示学习目前受到极大的关注，由于其在许多任务的优异表现，但目前很多方法针对静态图提出。在这篇文章主要解决两个问题如何编码动态图以及如何高效将动态图编码到低维空间中。作者提出了DyRep框架”
本篇文章由佐治亚理工学院以及Deepmind合作完成，发表在ICLR2019上，主要解决高效编码动态图的问题，作者提出的DyRep。本篇公众号主要就动态图概念、DyRep框架的关键部分进行解读。

01 动态图

动态图，指在某一段时间内节点或者边处于变化的图，则在动态图中节点的拓扑结构以及图变化的过程都储存着信息。如下图所示。

02 DyRep

作者提出DyRep框架去获取拓扑信息以及变化过程中所包含的信息。同样的DyRep框架核心仍在解决Embedding的问题，作者提出下面的更新公式进行更新Embedding。

其中z表示模型生成的Embedding。通过上面等式发现DyRep主要由三部分组成，局部Embedding即h项，节点v在t时刻之前的Embedding即等式右边z项，以及最后的时间编码项。其中h项是通过attention聚