拉普拉斯矩阵 拉普拉斯算子 图论

图函数

我们知道，互相连接的节点可以构成一个图，其中包含所有节点构成的集合V，和所有边构成的集合E。
对于实数域上的函数$y=f(x)$, 我们可以理解为一种对于x的映射，将每个可能的$x\in X$ 映射到一个对应的$y\in Y$。
相应地，我们也可以定义一个函数$F_G:V\to R$，使得图上的每一个节点$v\in V$，都被映射到一个实数$R$上。

图函数的梯度

我们记得，梯度的意义在于，衡量函数在每一个点处，在每个正交方向上的变化，如$f(x,y,z)$的梯度在$x$方向的分量$\frac{\partial f}{\partial x}=\frac{f(x+dx)-f(x)}{(x+dx)-x}$
在图论中，我们认为一个节点沿着每一条边通向它的相邻节点，而每两条边之间互相并没有什么关系，也就是说我们认为这个节点的每一条边都是互相正交的。并且对于两个节点，我们定义其距离d为其边权值的倒数。那么对于一个节点$v_0$，我们认为其梯度在一条通向$v_1$的边$e_{01}$上的分量为$\frac{F_G(v_0)-F_G(v_1)}{d_{01}}=(F_G(v_0)-F_G(v_1)\cdot e_{01})$
（其中$d_{01}$为$v_0$到$v_1$的距离，$e_{01}$为该边的权重)。

拉普拉斯矩阵

直接套用导数的定义，无法直观理解拉普拉斯矩阵的物理意义，从散度入手，才是正确的打开方式。

梯度(矢量)

梯度“$\nabla$”的本意是一个向量(矢量)，表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该方向处沿着该方向(此梯度方向)变化最快，变化率最大(为该梯度的摸)。假设一个三原函数$u=f(x,y,z)$在空间区域$G$内具有一阶连续偏导数，点$P(x,y,z)\in G$，称向量 { ∂ f ∂ x , ∂ f ∂ y , ∂ f ∂ z } = ∂ f ∂ x i ⃗ + ∂ f ∂ y j ⃗ + ∂ f ∂ z k ⃗ \{\frac{\partial f}{\partial x}, \frac{\partial f}{\partial y}, \frac{\partial f}{\partial z} \} = \frac{\partial f}{\partial x} \vec{i} + \frac{\partial f}{\partial y} \vec{j}+\frac{\partial f}{\partial z} \vec{k} {∂x∂f​,∂y∂f​,∂z∂f​}=∂x∂f​i +∂y∂f​j ​+∂z∂f​k
为函数$u=f(x,y,z)$在点$P$处的梯度，记为$gradf(x,y,z)$或$\nabla f(x,y,z)$, 其中，$\nabla =\frac{\partial f}{\partial x}\vec{i}+\frac{\partial f}{\partial y}\vec{j}+\frac{\partial f}{\partial z}\vec{k}$
成为向量的微分算子或Nabla算子。

散度(标量)

散度“$\nabla \cdot$”（divergence）可用于表针空间各点矢量场发散的强弱程度，物理上，散度的意义是场的有源性。当$div(F)>0$, 表示该点有散发通量的正源(发散源)；当$div(F)<0$表示该点有吸收能量的负源(洞或汇)；当$div(F)=0$，表示该点无源。

拉普拉斯算子

拉普拉斯算子(Laplace Operator)是$n$维欧几里得空间中的一个二阶微分算子，定义为梯度($\nabla f$)的散度($\nabla \cdot$)。$\Delta f={\nabla }^{2}f=\nabla \cdot \nabla f=div(gradf)$
笛卡尔坐标系下的表示法:$\Delta f=\frac{{\partial }^{2}f}{\partial x^2}+\frac{{\partial }^{2}f}{\partial y^2}+\frac{{\partial }^{2}f}{\partial z^2}$
$n$维形式$\Delta ={\sum }_i\frac{{\partial }^2}{\partial x_i^2}$

离散函数的导数

$$\frac{\partial f}{\partial x}=f^{\prime }(x)\approx f(x+1)-f(x)$$
$$\frac{{\partial }^{2}f}{\partial x^2}=f^{\prime \prime }(x)\approx f^{\prime }(x+1)-f^{\prime }(x)=f(x+1)+f(x-1)-2f(x)$$
则我们可以将拉普拉斯算子也转化为离散形式(以二维为例)

$$\begin{gathered} \Delta f=\frac{{\partial }^{2}f}{\partial x^2}+\frac{{\partial }^2}{\partial y^2} \\ =f(x+1,y)+f(x-1,y)-2f(x,y)+f(x,y+1)+f(x,y-1)-2f(x,y) \\ =f(x+1,y)+f(x-1,y)+f(x,y+1)+f(x,y-1)-4f(x,y) \end{gathered}$$

现在用散度的概念解读一下

如果$\Delta f=0$，可以近似认为中心点$f(x,y)$的势和其周围点的势是相等的，$f(x,y)$局部范围内不存在势差，所以该点无源。
如果$\Delta f>0$，可以近似认为中心点$f(x,y)$的势低于周围点，可以想象成中心点如恒星一样发出能量，补给周围的点，所以该点是正源。
如果$\Delta f<0$，可以近似认为中心点$f(x,y)$的势高于周围点，可以想象成中心点如黑洞一样在吸收能量，所以该点是负源。

两一个角度，拉普拉斯算子计算量周围点与中心点的梯度差。当$f(x,y)$收到扰动之后，其可能变为相邻的 $f(x-1,y),f(x+1,y),f(x,y-1),f(x,y+1)$之一，拉普拉斯算子得到的是对该店进行微小扰动后可能收获的总增益（或者说是变化）。

我们现在将这个结论推广到图:假设具有$N$个节点的图$G$，此时以上定义的函数不再是二维，而是$N$维向量：$f=(f_1,f_2,...,f_N)$,其中$f_i$为函数$f$在图中节点$i$处的函数值。类比于$f(x,y)$在节点(x,y)处的值。对$i$节点进行扰动，它可能变为任意一个与它相邻的节点$j\in N_i$, $N_i$表示节点i的一阶领域节点。
我们上面已经知道拉普拉斯算子可以计算一个点到它所有自由度上微小扰动的增益，通过图来表示就是任意一个节点$j$变化到节点$i$所带来的增益，考虑图中边的全职相等(简单说就是1)则有:
$\Delta f_i={\sum }_{j\in N_i}(f_i-f_j)$
而如果边E_{ij}具有权重W_{ij}时，则有:$\Delta f_i={\sum }_{j\in N_j}{W}_{ij}(f_i-f_j)$
由于当W_{ij}=0是表示节点$i$,$j$不相邻，所以上式可以简化为: $\Delta f_i={\sum }_{j\in N}(f_i-f_j)$
继续推导有:
$$\begin{gathered} \Delta f_i={\sum }_{j\in N}{W}_{ij}(f_i-f_j) \\ ={\sum }_{j\in N}{W}_{ij}{f}_i-{\sum }_{j\in N}{W}_{ij}{f}_j \\ =d_i{f}_i-w_{i:}f \end{gathered}$$
其中$d_i={\sum }_{j\in N}{W}_{ij}$是顶点$i$的度；
$W_i:=(W_{i1},...W_{iN})$是$N$维的行向量，$f=\left(\begin{array}{c}{f}_i\\ .\\ .\\ .\\ f_N\end{array}\right)$是N维的列向量；$W_{i:}f$表示两个向量的内积。
对于所有的N节点有$$\begin{gathered} \Delta f=\left(\begin{array}{c}\Delta f_1\\ .\\ .\\ .\\ \Delta f_N\end{array}\right) \\ =\left(\begin{array}{c}{d}_1{f}_1-W_{1:}f\\ .\\ .\\ .\\ d_N{f}_N-W_{N:}f\end{array}\right) \\ =\left(\begin{array}{ccccc}{d}_1& \cdot & \cdot & \cdot & 0\\ .& .& & & .\\ .& & .& & .\\ .& & & .& .\\ 0& \cdot & \cdot & \cdot & d_N\end{array}\right)f-\left(\begin{array}{c}{W}_{1:}\\ .\\ .\\ .\\ W_{N:}\end{array}\right) \\ =diag(d_i)f-Wf \\ =(D-W)f \\ =Lf \end{gathered}$$
这里的(D-W)就是拉普拉斯矩阵$L$。根据前面所述，拉普拉斯矩阵中的第$i$行实际上反应了第$i$个节点在对其它所有节点产生扰动是所产生的增益累积。直观上来讲，拉普拉斯矩阵反映了当我们在节点$i$上施加一个势，这个势以哪个方向能够多顺畅的流向其它节点。

References

1. https://zhuanlan.zhihu.com/p/85287578
2. https://zhuanlan.zhihu.com/p/67336297