图神经网络（一）图信号处理与图卷积神经网络（2）图信号与图的拉普拉斯矩阵

 给定图$G=(V,E)$，V表示图中的节点集合，假设其长度为$N$，图信号是一种描述$V\to R$的映射，表示成向量的形式：$x=[x_1,x_2,\dots ,x_N{]}^{\mathrm{T}}$，其中$x_i$表示的是节点$v_i$上的信号强度，如图1-1所示，其中竖线长度表示节点上信号值的大小：

图1-1 图信号示例

 与离散时间信号不同，图信号是定义在节点上的信号，而节点之间有自己固有的关联结构。在研究图信号性质的时候，处理要考虑图信号的强度之外，还需要考虑图的拓扑结构，不同图上同一强度的信号，具有截然不同的性质。

 拉普拉斯矩阵（Laplacian Matrix）是用来研究图的结构性质的核心对象，拉普拉斯矩阵的定义如下：$L=D-A$，$D$是一个对角矩阵，$D_{ii}={\sum }_j{A}_{ij}$表示的是节点$v_i$的度。拉普拉斯矩阵的元素级别定义如下：

$$L_{ij}=\{\begin{array}{ll}deg(v_i)& \text{if}I=j\\ -1& \text{if}{e}_{ij}\in E\\ 0& \text{otherwise}\end{array}$$

 拉普拉斯矩阵还有一种正则化的形式（symmetric normalized laplacian）$L_{\text{sym}}=D^{-1/2}L{D}^{-1/2}$，元素级别定义如下：

$$L_{\text{sym}}=\{\begin{array}{ll}1& \text{if}I=j\\ \frac{-1}{\sqrt{(deg(v_i)deg(v_j)}}& \text{if}{e}_{ij}\in E\\ 0& \text{otherwise}\end{array}$$

 拉普拉斯矩阵的定义来源于拉普拉斯算子，拉普拉斯算子是$n$维欧式空间中的一个二维微分算子：$∆f={\sum }_{i=1}^n\frac{{\partial }^{2}f}{\partial x_i^2}$ 。如果将该算子的作用域退化到离散的二维图像空间，就成了我们非常熟悉的边缘检测算子，其作用原理如下：
$$\begin{array}{rl}∆f(x,y)& =\frac{{\partial }^{2}f(x,y)}{\partial x^2}+{\frac{{\partial }^{2}f(x,y)}{\partial y}}^2\\ & =[(f(x+1,y)-f(x,y))-(f(x,y)-f(x-1,y))]+[(f(x,y+1)-f(x,y))-(f(x,y)-f(x,y-1))]\\ & =[(f(x+1,y)+f(x-1,y))+(f(x,y+1)-f(x,y-1))]-4f(x,y)\end{array}$$

 在处理图像的时候，上式中的算子会被表示成模板的形式：

 从模板中我们可以直观地看到，拉普拉斯算子也被用来描述中心节点与邻居节点之间的信号的差异。

 同理，在图信号中，拉普拉斯算子也被用来描述中心节点与邻居节点之间的信号差异，这从下式中可以看出:
$$L\mathbf{x}=(D-A)\mathbf{x}=[\cdots ,\sum _{v_j\in N(v_j)},\cdots ]$$
 由此可知，拉普拉斯矩阵是一个反映图信号局部平滑度的算子。更进一步来说，拉普拉斯矩阵可以让我们定义一个非常重要的二次型：
$${\mathbf{x}}^{\text{T}}L\mathbf{x}=\sum _{v_i}\sum _{v_j\in N(v_i)}{x}_i(x_i-x_j)=\sum _{e_{ij}\in E}(x_i-x_j{)}^2$$
 令$TV(\mathbf{x})={\mathbf{x}}^{\text{T}}L\mathbf{x}={\sum }_{e_{ij}\in E}(x_i-x_j{)}^2$，我们称$TV(\mathbf{x})$为图信号的总变差（Total Variation）。总变差是一个标量，它将各条边上信号的差值进行加和，刻画了图信号整体的平滑度。

参考文献
[1] 刘忠雨, 李彦霖, 周洋.《深入浅出图神经网络: GNN原理解析》.机械工业出版社.