图卷积神经网络介绍(GCNs)

之前承诺要写一个关于graph network的介绍，因为随着deep learning的发展达到一个很高的水平，reasoning(推理)能力的具备变得异常迫切。而knowledge graph则是实现reasoning的重要途径之一，如何从复杂的graph中学习到潜在的知识是一项非常challenging的任务，图作为knowledge的存储媒介，deep learning作为信息抽取的重要工具，二者的结合可谓是必然趋势。下面我将结合之前看过的一篇国外的博客，为大家入门graph neural network抛一块砖。

在开始之前，多说几句，关于graph和deep learning结合的工作，想必大家都能猜到名字该怎么取，无非是这几个关键词的组合：Graph，Neural，Network，Convolution…所以，许多工作从paper名字来看并没有多大的区分性。

前言

现实世界许多数据都是以graph的形式存储的，比如social networks(社交网络), knowledge graphs(知识图谱), protein-interaction networks(蛋白质相互作用网络), the World Wide Web(万维网),最近有一些研究者把目光投向建立一种通用的神经网络模型来处理graph数据。在此之前，该领域的主流方法是一些基于kernel的方法或基于graph的正则化技术，不过从deep learning的角度来讲，这些已经属于“传统方法”了，不是我们要讨论的主题，不了解也没有关系。

GCNs:定义

由于大家的思想普遍是如何将CNN等神经网络的思想迁移到graph上，所以往往设计出来的结构都有一定的共性，使用类似convolution权重共享的思想，我们可以把这类网络暂且都称作Graph Convolutional Networks(GCNs)。这类网络从数学上来看，是想学习$G=(V,E)$上的一个函数，该函数的输入是：

• 每一个节点的的特征表示$v_i$，如果节点数为$N$，特征维度为$D$维，则所有节点的特征可组成一个$N\times D$的矩阵
• 图结构的表达，往往使用图的邻接关系矩阵$A$表示

该函数产生一个node-level的输出$Z$(是一个$N\times F$的矩阵，$N$代表节点数量，每一行代表一个节点，$F$代表节点特征向量的维度)。如果想要得到graph-level的特征表达，只需要将每一个node的表达综合起来再经过一个映射操作即可。

和卷积神经网络一样，对于graph的特征提取我们同样可以使用多层神经网络结构，对于每一层，我们可以使用如下的映射函数来计算：

$$f(H^{(l)},A)=f(H$$