Graph Neural Network学习笔记-Day2

参考清单如下：
B站视频

知乎Johnny Richards

知乎Taylor Wu

接上一篇blog：Graph Neural Network学习笔记-Day1

Spectral-Based Convolution

和Spatial-based convolution不同，Spectral-Based Convolution就是根据“时域卷积<==>频域乘积”的性质，通过傅里叶变换，把时域需要卷积的feature和卷积核，变换到频域，相乘之后再傅里叶反变换过去，从而完成卷积。

基础知识☞Spectral Graph Theory

主要是理解graph如何变换到谱域，如何进行傅里叶变换

基本概念

• 什么是graph（包括节点，边，节点个数是N）
• ajacency matrix（节点与节点之间有边则对应位置的矩阵元素为1，否则为0。是对称矩阵）
• 只考虑无向图
• degree matrix（是对角矩阵，对角线元素就是节点的度
• 信号（节点上的一个函数）
  如下图所示，一个demo graph和它上面的信号（如每个节点表示城市，那么信号可以是该城市的气温、人口增长数，等）
  

拉普拉斯算子

• graph的拉普拉斯矩阵L=D-A
• L是对称的
• L进行谱分解 $L=U\Lambda U^T$
• $\Lambda =diag[{\lambda }_0,\cdots ,{\lambda }_{N-1}]$对角矩阵，元素是L的特征值
• U 酉矩阵，$U=[u_0,\cdots ,u_{N-1}]$，列向量是L的特征值对应的特征向量。是一组标准正交基（自己和自己的内积是1，两两之间内积为0）。
• ${\lambda }_l$就是谱域的频率，基向量$u_l$就是频率${\lambda }_l$对应的基向量。

对于demo graph，给出上面的信号$f$。根据graph的样子，可以得到D，A，L，以及L谱分解之后的$\Lambda$,$U$。

怎么理解特征值是频率

$\lambda =0$就是直流分量，特征向量$u_0$这四个节点上的信号强度相同，${\lambda }_i$越大，特征向量在节点上变化的就越快。

还是以上面的demo graph为例子，考察拉普拉斯算子究竟干了什么~~

如上图所示，L算子作用到graph的信号$f$上面$Lf=(D-A)f=Df-Af$，只考察第一个节点$v_0$, 第一个节点变换后的值$a = D(1,:) f - A(1,:)f $，其中$D(1,:)$,$A(1,:)$ 分别表示这两个矩阵的第一行。那么就是$v_0$上的signal$f(1)$乘以节点的度，然后减去与$v_0$相邻的节点的信号。如上图，整理成 $v_0$上的信号和它的邻居节点的信号之差，再求和。所以这就是信号强度的变化。如果考虑功率的话，就用$f^{T}Lf$，如下图所示，整理成了相邻node之间信号功率的变化，或者是graph上信号平滑程度。平滑程度就是频率，频率越高，相邻信号之间能量差就越大，频率越低，相邻信号之间的能量差就越小。

把信号用特征向量替代，有

所以特征值就是特征向量的频率大小。

例如下图中的demo graph，是一个具有20个node的 line graph。根据这个graph的L进行谱分解，得到的$\lambda$和对应的$u$如下面六张图，其中$\lambda$越大，节点之间信号变化就越快。

自己随便画了一下

关于拉普拉斯啰嗦点别的

参考知乎上一篇回答，感觉挺有趣。

从热传播模型到图上的信号传播模型

热传播模型

顾名思义就是热量是怎么传播的咯。
牛顿冷却定律（Newton’s Law of Cooling)说，当物体表面与周围存在温度差时，单位时间从单位面积散失的热量与温度差成正比，比例系数称为热传递系数（摘自：百度百科）。假设这个比例系数为$k$，在一维、离散假设下，位于$i$处的一个点的温度为${\varphi }_i$,那么${\varphi }_i$变化快慢 d ϕ i d t \frac{d\phi_