【Graph Neural Network 图神经网络】1.Recurrent Graph Neural Network 循环图神经网络

图神经网络概述

神经网络的成功推动了模式识别和数据挖掘的研究，产生了若干种端到端的深度学习方法：卷积神经网络CNN、循环神经网络RNN、自动编码器。其中卷积神经网络CNN能够利用图像数据的平移不变、局部连通和可组合，提取与整个数据集共享的局部有意义的特征，以进行各种图像分析任务。
但是在应用场景中依然有大量的数据以图Graph的形式表示，例如电子商务中的用户与产品的交互、化学中的分子结构、引文网络中的论文关系等。因为图结构可能是不规则的，图中的节点可能具有不同数量的邻居，图中实例彼此关联不独立，所以现有方法难以满足图数据的需求。
如下图所示，左边是图像的二维卷积，其中每个像素都被视为一个节点，邻居是有序且有固定大小的；右边是图卷积，简单卷积方案是求红色节点及其邻居节点特征的加权平均值。所以可以说，在卷积操作中，图像是图的一种特殊情况。

---

图/网络嵌入vs图神经网络

图/网络嵌入（Embedding）和图神经网络（GNN）是不同的概念，也密切相关。
Embedding主要是通过一些基于因子分解（Factorerization）、随机游走（Random Walk）或者深度学习的方法，将图节点转换成适合于现有机器学习模型的低维向量表示；GNN是一种深度学习模型，旨在设计一种学习机制，以端到端的方式解决图相关的节点分类、链路预测等问题。
所以，GNN是一个为多种任务而设计的神经网络模型，而Embedding则涵盖了针对同一任务的多种方法。两者是一种相交的关系：GNN是进行Embedding的多种方法之一，Embedding是GNN可以完成的多种任务之一。

---

---

循环图神经网络

循环图神经网络(RecGNNs)是图神经网络的先驱。它们运用了类似RNN的思想，在图中的节点上递归地应用相同的参数来提取高级节点表示。由于受到计算能力的限制，早期的研究主要集中在有向无环图。

---

GNN*

Scarselli等人提出了一种图神经网络模型(GNN*，因为与GNN同名避免混淆命名为GNN*)，该模型既适用于图应用又适用于节点应用，将这两个现有应用模型统一为一个通用框架。 GNN*是循环神经网络和随机游走模型的扩展，并保持了它们的特性：扩展了循环神经网络，因为它可以处理多类别的图，包括循环图，有向图和无向图，并且无需任何预处理即可处理以节点为中心的应用。 该方法通过引入学习算法并扩大可建模的过程类别来扩展随机游走理论。

模型

在图中，节点表示对象或概念，边表示关系。而每个对象/概念都有它的功能与相关定义。因此，我们可以基于领域中包含的信息将状态$x_n$附加到每个节点$n$，成为了节点$n$的一种概念的表示，也可被用于生成输出$o_n$（即概念的输出）。
$f_w$是一个参数函数，称为局部转移函数，它表示节点$n$对周围邻居的依赖性，而$g_w$是描述输出生成方式的局部输出函数，具体定义如下：
$$x_n=f_w(l_n,l_{co[n]},x_{ne[n]},l_{ne[n]})$$$$o_n=g_w(x_n,l_n)$$
其中$l_n$是节点 n n