图卷积神经网络GCN

1. 基础知识

1.1 Spatial Domain(空间/拓扑域)和Spectral Domain(谱域)

1.2 拉普拉斯矩阵

1.2.1 定义

对于图$G=(V,E)$, 其Laplacian矩阵的定义为$L=D-A$, 其中$L$是Laplacian矩阵，$D$是定点的度矩阵（对角矩阵），$A$是图的邻接矩阵。

常用的拉普拉斯矩阵有三种：

1. $L=D-A$ 定义名为 Combinatorial Laplacian
2. $L^{sys}=D^{-1/2}L{D}^{-1/2}$ 定义为Symmetric normalized Laplacian， 很多GCN论文中用这种。
3. $L^{rw}=D^{-1}L$ 定义Random warl normalized Laplacian

1.2.2 拉普拉斯矩阵作用

1. 拉普拉斯矩阵是对称矩阵，可以进行特征分解（谱分解）。
2. 拉普拉斯矩阵只有在中心顶点和一阶相连的顶点上有非0元素。
3. 通过拉普拉斯算子与拉普拉斯矩阵进行类比。？？？

1.2.3 拉普拉斯矩阵的谱分解(特征分解)

GCN的核心是基于拉普拉斯矩阵的谱分解。
首先对基本的理论进行解释

1. 矩阵的谱分解、特征分解、对角化是同一个概念。
2. 不是所有的矩阵都可以进行特征分解，充要条件是n阶方阵有n个线性无关的特征向量。
3. 拉普拉斯矩阵是半正定对称矩阵。半正定矩阵的三个性质：
   a. 实对称矩阵一定n个线性无关的特征向量。
   b. 半正定矩阵的特征值一定非负。
   c. 实对称矩阵的特征向量总是可以化为两两相互正交的正交矩阵

拉普拉斯矩阵的谱分解:
$$L=U(\begin{array}{c}{\lambda }_1\\ \\ \end{array}$$