DynamicTriad：通过triad来研究网络的动态变化

Dynamic Network Embedding by Modeling Triadic Closure Process

作者是Lekui Zhou, Yang Yang, Xiang Ren, Fei Wu, Yueting Zhuang，发表于AAAI2018。主要是利用三元闭包过程建模动态网络嵌入，并且生成节点的embedding用于下游任务。

1 背景知识

网络节点表示

过去的方法只用于静态图，没有捕捉充足的动态信息。例如，在下面的图中A、B在时间 t 是相似的，但是在 t+1 时刻已经不太相似。

学习到的表示是否能很好地反映节点的演化模式是网络嵌入方法的一个关键要求。

triad

triad（三元组），表示了三个节点，可以分为两种：

• closed triads
  任意2个节点之间都是相连的。
• open triads
  三个节点中有2个是互不相连的，所以有2种关系。
• triad closure process
  从开放的三元组变成闭合三元组的过程。

2 问题描述

已知
T个时间片的网络：

每个时间片的网络都包含了节点集、边集和权重集：

每条边用一个函数得到了一个正实数的权重：

目标
学习一个函数f，可以保证节点的相似性以及动态信息。如下是节点 i 在时间 t 的embedding：

3 本文方法

本文提出了DynamicTriad，其可以对triadic closure process建模，我先介绍一下这个三元闭合过程。

Triadic closure process

已知时间 t 的open triad：

其中 i 和 j 无关联，但都和 k 有关联：

那么定义此时 k 和 i、j的关联性：

social strategy parameter θ

定义一个社会策略参数θ ,从而将社会策略的一些信息也嵌入到对应的隐式空间中。这样一来，可以将open traid演变成closed traid，即在t+1时刻时，节点 i 和 j 会在节点 k 的介绍下建立连接的概率，定义为：

由于 i 和 j 可能会在多个共同邻居节点的影响下发展成“friend”，所以我们定义在时间 t 它们的共同邻居为：

另外定义了一个向量：

由于若i 和 j 在 k 的影响下成为了朋友，则所有关于 i 和 j 的开放三元组都会成为闭包三元组。

• 在 t+1 时刻连边（i,j）会产生的概率为：
  

• i 和 j 没有受任何邻居影响，没有产生连边的概率为：
  

最终定义成功产生的连边集合：

没有产生连边的集合：

则这个三元闭包过程的损失函数为：

Social homophily

网络中相连的节点在嵌入空间中距离是相近的。定义节点间embedding的距离：

并且定义了正样本和负样本：

• 边集
  
• 非边集
  

则此处的损失函数为：

temporal smoothness

一般来说，网络的变化是平缓的，也就是说，连续时间戳下，网络的向量表达的变化相差不能太大。因此，对应的损失函数可以表达为：

最终优化问题

4 模型学习

采样

给出时间t存在的边（j，k），在节点j和k中任选一个作为 j’，再从其他节点中调出一个节点k’，使满足：

则为负样本。对每一条有效边（j，k）都重复负样本抽样一次。最终得到训练集：

训练过程伪代码

5 实验部分

代码：Github
数据集只给出Academic的。

数据集

• Mobile：移动电话网络
• Loan：贷款网络
• Academic：Aminer
  

实验任务

• 节点分类
• 节点预测标签
• 连边重构
• 链路预测
• 重构和预测变化的边

Baseline

DeepWalk，node2vec，Temporal Network Embedding（TNE）

实验结果

可以看出DynamicTriad取得了比其他方法更优的效果。