cs224w 图神经网络 学习笔记（十）Deep Generative Models for Graphs

课程链接：CS224W: Machine Learning with Graphs
课程视频：【课程】斯坦福 CS224W: 图机器学习 (2019 秋 | 英字)

1. 前言

我们上节课讨论了对网络进行编码的架构。同时，我们也介绍了GCN的核心思想——Aggregate neighbours，并讨论了如何使用神经网络去实现。也就说，我们之前讨论的，是如何对网络进行embedding；我们今天要讲的是，如何从embedding生成网络。

2. Problem of Graph Generation 问题的引出以及难点

网络的生成有很多实际的应用：

• Generation – Gives insight into the graph formation process 可以了解网络的形成过程（例如人际网的发展、交通网的扩张等）
• Anomaly detection – abnormal behavior, evolution 异常检测
• Predictions – predicting future from the past 预测（例如网络发展的演化等）
• Simulations of novel graph structures 对全新的网络结构进行仿真
• Graph completion – many graphs are partially observed 网络的补全（例如知识图谱补全等）
• "What if” scenarios

问题的引入——有真实的网络$G$，和人造的网络$G^{\prime }$，那么：

• 怎样的生成模型是好的？
• 我们如何拟合模型并使用它生成网络?

网络的生成主要涉及两个任务：

• Generate graphs that are similar to a given set of graphs 生成与给定图集相似的图——这个是我们今天的主要内容
• Goal-directed graph generation 目标导向的网络生成 ，即生成优化给定目标/约束的网络（例如药物分子生成/优化）

可以说，网络生成是有趣的，也是很难的任务，它的难主要体现在以下几个方面：

• 第一，输出空间很大且是可变的。网络一般会采用邻接矩阵表示节点和边，对于$n$个节点的网络来说，它的输出空间就是$n^2$的矩阵；另外，和一般的机器学习不同，其输出空间是不确定的，会随着不同的网络变化。
• 第二对于同一个网络，其邻接矩阵并不是唯一确定的，和节点编号的顺序有关。
  
• 第三，网络的生成过程中，点和边有复杂的依赖关系。比如我们要生成一个六个节点的环，我们需要记住所有的历史步骤，对于一些复杂的图来说，内存和效率极有挑战。
  

3. ML Basics for Graph Generation

假设我们要通过一组节点数据 { x i } \{x_i\} {xi​}来学习网络的生成模型。

$p_{data}(x)$是数据的分布（data distribution），实际上我们并不可能知道这个分布，但是我们可以通过对$x_i$的采样（sampling）来得到这个分布，即$x_i\backsim p_{data}(x)$。

$p_{model}(x;\theta )$是模型（model），参数$\theta$用来估计$p_{data}(x)$。

那么，我们的目标就是：

（1）让$p_{model}(x;\theta )$接近于$p_{data}(x)$；

核心理论——极大似然估计

（2）确保我们可以从$p_{model}(x;\theta )$采样，并生成网络。

这里的函数$f(\cdot )$采用深度神经网络实现。

4. GraphRNN——生成真实的网络

4.1 Model Graph as Sequences 将图的生成问题转换成序列生成问题

网络的生成是通过不断地增加节点和边来实现的。

对应一个确定的节点顺序$\pi$，图$G$可以表示为节点和边的序列$S^{\pi }$：

$S^{\pi }$实际上是序列的序列。对应的每一个序列$S_i^{\pi }$，都有两个层次的操作：

• 节点操作——增加节点，序列$S_i^{\pi }$只有一步操作
  
• 边的操作——序列$S_i^{\pi }$中的每一步表示增加一条边
  
  那么，我们就可以将图的生成问题转换成一个序列的生成问题。这样一来，（对于无向图来说），我们只需要保存邻接矩阵的一半就行了。

A graph + a node ordering = A sequence of sequences!

那么接下来，我们需要解决的就是两个过程：

• 新的节点的生成——节点序列的生成
• 对于新生成的节点，生成其相关联的边——边序列的生成

而解决序列问题，我们自然而然地就能想到利用RNN来实现。

4.2 GraphRNN

GraphRNN包括两个部分：

• node-level RNN——生成edge-level RNN的初始状态
• edge-level RNN——为新节点创建相关的边，并将结果更新到node-level RNN的状态中。

那么，我们怎样利用RNN来生成序列呢？

对于一个RNN单元来说，有状态$s_t$，输入$x_t$，输出$y_t$。

对于序列的表示，可以将RNN单元重复连接。开始和结束都定义一个标识符，开始的标识符$s_0=SOS$，结束的标识符$y_T=EOS$；上一个状态的输出是下一个状态的输入，即$x_{t+1}=y_t$。

在上述模型的基础上，我们需要给RNN模型增加随机性。首先，我们要明确的是，我们的目标是使用RNN来估计${\prod }_{k=1}^n{p}_{model}(x_t|x_1,\cdots ,x_{t-1};\theta )$。那么，$x_{t+1}$是$y_t:x_{t+1}\backsim y_t$的取样。

RNN每一步的输出是一个概率向量，下一个状态的输入时基于该概率向量的一个取样。

模型的测试

假设我们有一个已经训练好的模型，$y$服从伯努利分布，$y_1=0.9$表示有0.9的概率生成1，即有边连接；有$1-0.9=0.1$的概率生成0，即没有边连接。

模型训练

在进行模型训练的时候，有一个原则——Teacher Forcing，也就是加入我们检测到真实的边的序列为 [1,0,…]，在训练时我们用真实的这个序列作为输出。

损失函数定义为Binary cross entropy，训练目标是使损失函数最小化：

$$L=-[y_1^{\ast }\log (y_1)+(1-y_1^{\ast })\log (1-y_1)]$$

$y_1^{\ast }$是真实结果。如果$y_1^{\ast }=1$，则$L=-\log (y_1)$，$y_1$越大（越接近$y_1^{\ast }$），$L$越小；如果$y_1^{\ast }=0$，则$L=-\log (1-y_1)$，$y_1$越小（越接近$y_1^{\ast }$），$L$越小。这样，就可以使预测值$y_1$越来越接近实际值$y_1^{\ast }$。预测值$y_1$通过RNN计算得到，可以通过反向传播不断优化RNN的参数。

4.3 模型优化——图节点的编号策略

然而，我们还是面临一个问题，因为每一个新生成的点都有可能和之前的点进行关联，也就是说，当图的节点数量很大时，我需要记住很长的依赖关系来实现边的生成。

我们的解决方案，就是利用BFS（广度优先搜索）来给图的节点编号。

使用广度优先搜索进行编号，有两个优点：

• Reduce possible node orderings
• Reduce steps for edge generation