Spectral Networks and Deep Locally Connected Networks on Graphs

Paper : Spectral Networks and Deep Locally Connected Networks on Graphs
Code :

摘要

Yann LeCun 组在nips2014发表的有关卷积在图上迁移的理论研究成果，可能是最早的一篇研究Graph Convolution 的文章。在欧式空间中使用的卷积具有平移不变性，权值共享，局部连接，分层次表达的特点，但是图结构是一种非欧式空间中的关系型结构，所以其不存在平移不变性（每个节点的周围邻居数不固定），导致图网络无法使用卷积。作者提出了两种构造，一种基于空间域的层次聚类，另一种基于图拉普拉斯算子的频谱。 作者通过实验表明，对于低维图，使用这两种方法可以学习具有与输入大小无关的卷积层，从而可以形成有效的深度架构。

基于空域的层次结构

定义图 $G$ 表示为 $G=(\Omega ,W)$，其中 $\Omega$ 表示图中的点集，大小为 $m$ ，$W$ 是一个大小为 $m\times m$ 的对称非负方阵，表示带权的邻接矩阵。

根据边权的大小，可以定义阈值为 $\delta$ 的直接邻域

N δ ( j ) = { i ∣ W i j > δ } N_\delta(j) = \{i |W_{ij}>\delta \} Nδ​(j)={i∣Wij​>δ}

在欧式空间上，CNN通过卷积和池化进行层次化降维，这一操作可以看作是每层将输入的特征图，在一定的聚类划分下，对每一个cluster输出单一的特征。作者仿照该方法进行图卷积，考虑 $K$ 层图卷积结构，其中 ${\Omega }_0=\Omega$ ，${\Omega }_k$ 是对 ${\Omega }_{k-1}$ 划分为 $d_k$ 个集群。对于第 $k$ 层的图卷积操作，输入的特征通道数为 $f_{k-1}$，输出的特征通道数为 $f_k$ 。对于输入的特征图，使用 $x_k=[x_{k,1},...,x_{k,f_{k-1}}{]}^{\text{T}}$ 表示，输入矩阵的尺寸为 $d_{k-1}\times f_{k-1}$ ，那么输出特征定义为

$$x_{k+1,j}=L_k\cdot h(\sum _{i=1}^{f_{k-1}}{F}_{k,i,j}{x}_{k,i})$$

其中 $h$ 表示非线性激活函数，$F_{k,i,j}$ 是一个大小为 $d_{k-1}\times d_{k-1}$ 的稀疏矩阵，非零元的位置由${\mathcal{N}}_k$ 给出，${\mathcal{N}}_k$ 定义为

N k = { N k , i ∣ i = 1... d k − 1 } \mathcal N_k = \{\mathcal N_{k,i}|i=1...d_{k-1}\} Nk​={Nk,i​∣i=1...dk−1​}

表示在 ${\Omega }_{k-1}$ 中所有点对应的领域。

而矩阵 $W_k$ 的迭代式定义为

$$\begin{gathered} {A}_k(i,j)=\sum _{s\in {\Omega }_k(i)}\sum _{t\in {\Omega }_k(j)}{W}_{k-1}(s,t) \\ {W}_k=\text{rownormalize}(A_k) \end{gathered}$$

基于频域的结构

图拉普拉斯矩阵定义为 $L=D-W$，使用 $V$ 表示矩阵 $L$ 的特征向量，那么图卷积在频域上的定义为

$$x_{k+1,j}=h(V\sum _{i=1}^{f_{k-1}}{F}_{k,i,j}{V}^T{x}_{k,i})(j=1...f_k)$$

大多数情况下，只有前d个特征向量起作用，因此可以使用 $V_d$ 代替矩阵 $V$，即$V_d=V[:,:d]$

总结

GCN可以看作是该篇论文提出的两种结构的特例，对于空域结构，$F_{k,i,j}$ 仅在一阶邻居处非零，参数共享；对于频域结构，可以看作 $d=1$ ，即频域结构中的一阶近似，为之后提出的GCN奠定了理论基础。而作者从流形的角度进行实验开阔了图神经网络的应用场景。