图卷积神经网络

引言

概述

过去几年，卷积神经网络因其强大的建模能力引起广泛关注，在自然语言处理、图像识别等领域成功应用。然而， 传统的卷积神经网络只能处理欧氏空间数据，而现实生活中的许多场景，如交通网络、社交网络、引用网络等，都是以图数 据的形式存在。将卷积神经网络迁移到图数据分析处理中的核心在于图卷积算子的构建和图池化算子的构建。
图卷积神经网络的两类经典方法——谱方法和空间方法，图数据上平移不变性 的缺失给图卷积算子的定义带来困难，谱方法借助卷积定理在谱域定义图卷积，而空间方法通过在节点域定义节点相关性来实现图卷积

挑战

1. 图数据是非欧空间数据。不满足平移不变形，具有各异的局部结构，而传统卷积神经网络中的基本算子：卷积和池化，依赖于平移不变形。
2. 图数据具有多样性。社交网络中用户的有向连接，引文网络中作者和引文的异质连接，政治关系网络中的正负倾向带符号连接等。
3. 图数据规模大。实际应用中的图可能规模极 大，含有百万甚至千万级别的节点。

现有方法

• 网页排序：PageRank，HITS
• 社区分类/人群聚类：拉普拉斯矩阵的特征值和特征向量
• 网络嵌入：通过约束节点的邻近性为每个节点学习固定长度的表达，如DeepWalk，LINE，Node2Vec。在解决具体的应用问题时，研究人员通常将其建模为两阶段问题，以节点分类为例，第一阶段为每个节点学习统一长度的表达，第二阶段将节点表达作为输入，训练分类模型。
• 谱方法：在谱空间定义图卷积，ChebNet和GCN对谱方法中的 卷积核进行参数化，大大降低了时空复杂度。
• 空间方法：在节点域用注意力机制、序列化模型等建模节点间的权重
• 池化算子。作用是扩大感受野，降低参数。图上池化算子主要用 于图分类问题，目的是学习到图的层级结构

图卷积神经网络的主要方法如下：

任务

图数据建模所针对的应用场景非常广泛，这也 使得图数据建模所处理的任务多样。我们将下游任 务分为节点级别的任务和图级别的任务。

• 节点级别的任务包括节点分类，链接预测等，如引文网络中的文章分类，推荐系统中用户对商品的偏好推断。
• 图级别的任务包括图生成，图分类等，如药物网络生成，蛋白质网络中的蛋白质分类。

图的基础

度矩阵，拉普拉斯矩阵和邻接矩阵的关系



归一化后的 拉普拉斯矩阵定义为

图卷积神经网络

图卷积神经网络主要包括卷积算子和池化算 子的构建，其中卷积算子的目的是刻画节点的局部 结构，而池化算子的目的是学到网络的层级化表 示，降低参数。在解决节点级别的任务时，研究人 员更关注如何给每个节点学到更好的表达，此时池 化算子并不必要，因此前期大量的工作仅关注图上 卷积算子的构建，而池化算子通常用在图级别的任务上

图卷积神经网络应用领域