VariableX的博客

前面的文章，我们讲解了图神经网络三剑客GCN、GraphSAGE、GAT中的两个： 图卷积神经网络(GCN)理解与tensorflow2.0代码实现 GraphSAGE 模型解读与tensorflow2.0代码实现 本要讲的是GAT(Graph Attention Network)，它使用 Attention 机制来对邻居节点进行加权求和，和一般的Attention 机制一样，分为计算注意力系数和加权求和两个步骤。 GAT中的 Attention 机制 先来看看每一层的输入与输出：  inpu

上一篇文章，我们讲了图神经网络：图卷积神经网络(GCN)理解与tensorflow2.0代码实现，也提到GCN的缺点：GCN属于直推式学习(Transductive Learning)，它在固定的图上学习每个节点的embedding表示，不能泛化到未加入到图中的节点，一旦图的结构发生改变，就需要重新训练整个网络。 本文提到的 GraphSAGE 属于归纳学习(Inductive Learning)，核心是学习聚合邻居节点信息的函数（聚合函数），然后利用聚合函数来得到一个节点的表示。即使图中加入了新的节点，建

图(Graph)，一般用 G=(V,E)G=(V,E)G=(V,E) 表示，这里的VVV是图中节点的集合，EEE 为边的集合，节点的个数用NNN表示。在一个图中，有三个比较重要的矩阵： 特征矩阵XXX：维度为 N×DN\times DN×D ，表示图中有N个节点，每个节点的特征个数是D。 邻居矩阵AAA：维度为 N×NN\times NN×N ，表示图中N个节点之间的连接关系。 度矩阵 DDD：维度为 N×NN\times NN×N ，是一个对角矩阵，即只有对角线上不为零，其他位置元素都是 0 ，表示图中