【图神经网络】图卷积网络 GCN

本文为图神经网络的学习笔记，讲解图卷积网络 GCN。欢迎在评论区与我交流👏

前言

传统卷积方式在非欧式的数据空间无法保持“平移不变性”，因此将卷积推广到 Graph 等非欧式数据空间的拓扑图上。

先给出 GCN 的公式：
$$H^{(l+1)}={\hat{D}}^{-1/2}\hat{A}{\hat{D}}^{-1/2}{H}^l{W}^l$$

• 卷积和傅里叶变换关系紧密。数学上的定义是两个函数的卷积等于各自傅里叶变换的乘积的逆傅里叶变换。此时卷积与傅里叶变换产生了联系
• 传统的傅里叶变换可通过类比推广到图上的傅里叶变换。此时傅里叶变换又与 Graph 产生了联系
• 由傅里叶充当桥梁，卷积与 Graph 产生联系

【论文链接】。

拉普拉斯矩阵与 GCN

拉普拉斯矩阵及其变体

拉普拉斯矩阵

简单图 $G$ 的节点数为 $n$，$D$ 是 $G$ 的度矩阵，$A$ 是 $G$ 的邻接矩阵，则 $G$ 的拉普拉斯矩阵可以表示为 $L=D-A$。

度矩阵 $D$ 定义为：
$$d_{i,j}:=\{\begin{array}{rcl}deg(v_i)& & \text{if }i=j\\ 0& & otherwise\end{array}$$

$L$ 中各元素表示：
$$L_{i,j}:=\{\begin{array}{rcl}deg(v_i)& & i=j\\ -1& & \text{if }i\ne j\text{ and }{v}_i\text{邻接}{v}_j\\ 0& & otherwise\end{array}$$
示意图（拉普拉斯矩阵也称为调和矩阵）：

拉普拉斯矩阵变体

对称归一化的拉普拉斯矩阵：
$$L^{sys}=D^{-1/2}L{D}^{-1/2}=I-D^{-1/2}A{D}^{-1/2}$$

$$L_{i,j}^{sys}:=\{\begin{array}{rcl}1& & i=j\\ \frac{-1}{\sqrt{deg(v_i)deg(v_j)}}& & \text{if }i\ne j\text{ and }{v}_i\text{邻接}{v}_j\\ 0& & otherwise\end{array}$$

随机游走归一化的拉普拉斯矩阵：
$$L^{rw}=D^{-1}L=I-D^{-1}A$$

$$L_{i,j}^{rw}:=\{\begin{array}{r}1\\ \sqrt{deg(v_i)}\end{array}$$