GCN频域视角相关——傅里叶变换、拉普拉斯变换、拉普拉斯算子、拉普拉斯矩阵、卷积

注：大量借鉴内容，且本文并不重在详细公式的推导，只是粗浅地替非信号专业的兄弟们把没接触过的概念串一串，欢迎批评指正

---

0. 前置知识

0.1 函数的正交

两个向量的正交很好理解：如（1，0）与（0，1）内积为0
引申到两个函数的正交：两个函数f(x)、g(x) 在共同的定义域内，定义域内的每个点对应的函数值乘起来再相加（积分）值为0

举例： sin（x）与cos(x)就是一对相互正交的函数：

三角函数带mn震动频率，当m与n不相等时，也是正交的（第一个等号积化和差）：

三角函数带mn震动频率，但m与n相等时，非正交：

两个函数正交有什么用呢？还是类比两个向量的正交：可以用于表示空间中任意的其它向量 ==> 可以用于表示任意的其它函数

此节参考

0.2 什么是卷积？

是一个变化的输入与一个稳定作用函数的作用余量。cv领域中：图像对应变化的输入（因为卷积核的感受野在不断地移动），卷积核对应稳定作用函数（如只起到求均值作用的卷积核、求感受野内最大像素值的卷积核。。。）
卷积公式：

当前飓风的产生（对应函数f）是由于之前累积的蝴蝶扇动翅膀的影响（对应函数g）叠加的结果（对应积分操作），（t-x）项表示当前时刻t之前距离x的时刻发生的某件事，也正是这一项产生了“卷”这种拧巴的感觉

过去对现在的影响 ⇒ 周围像素对中心像素的影响，g函数就是规定影响的函数
不同的卷积核有不同的作用，有些是简单取平均（综合影响），有些是能提取特征（试探我周围的像素有什么特征）。因此，可以利用不同的卷积核来检测图像中是否存在明显的卷积核代表的模式特征。

就是在这里引入神经网络待优化的 “权重” 的概念，“权重” 表示不同模式之间应当以怎样的比例组合

非常好的讲解视频 务必看

0.3 散度

梯度的散度，表示一种流通量。对于散度为正的点，散度越大，意味着相应的向量场越强烈地在此发散，而对于散度为负的点，意味着相应的向量场在此汇聚。

0.4 欧拉公式

推导 从傅里叶级数而来

1. 卷积与傅里叶变换

1.1 傅里叶变换

一束白光打到三棱镜上，被分解为了七色光，这启发我们：在某个视角下看似完整的一个事物，在另一个视角下可能是由多种元素集合叠加而成的。

比如考研数一中的泰勒展开：把某个函数在某一点的趋势，利用幂函数累加的方式表示出来，完成近似任务：

傅里叶变换就起到了这种“转换”的作用，傅里叶提出：任一个函数（无论是周期性的还是非周期性的）都可以表示为三角函数叠加的方式。

傅里叶变换公式：

傅里叶变换原理推导

e^-iwt叫作正交基，就像是滤波器，跟原函数 f(t) 相乘时，若原函数含有w成分则相乘不为i0，w特征被提取出来

为啥选择三角函数叠加而不是幂级数、泰勒级数？因为三角函数有比较好的性质：积分或微分后还是三角函数、能天然地表示震动性的信息，如信号。

总结：傅里叶变换的两个作用：（1）将周期函数（没有周期性可以当成周期为无穷大）拆解为sinx与cosx的组合
（2）将时域信号转为频域信号

1.2 时域的卷积等于频域的乘积

严格证明

直观理解：“ 频域是时域整体的表达。频域上信号的一个点，对应的是整个时域信号该对应频率的信息。因此，在频域中的乘法，自然就对应了时域整段所有不同频率信号乘法的叠加，这就是卷积了 ”

此小节标题可直接当成定理记住，也可 直观理解

2. 拉普拉斯变换

一句话解释：拉普拉斯变换是加强版的傅里叶变换，傅里叶变换只能将周期函数表示为正弦函数与余弦函数的叠加。但拉普拉斯变换追加了对无限增长的函数的表示方法

跟GCN主线任务 关系不大

视频后半部分推了一下拉普拉斯变换

3. 拉普拉斯算子

辨析：拉普拉斯算子跟拉普拉斯变换 没 有 关 系 ！

辨析：拉普拉斯算子是多元函数的二阶导数，即梯度的散度；拉普拉斯变换是个积分操作

为什么引入拉普拉斯算子的计算？在cv领域，可以通过拉普拉斯算子来提取边缘 / 某些特征，“提取特征”这个作用，是不是有点像傅里叶变换提取不同w下信号的存在性这个操作？

4. 拉普拉斯矩阵与其特征向量

在 图 上的拉普拉斯算子记为拉普拉斯矩阵， 拉矩阵的计算方式仿照拉算子的计算，就是在图上定义散度的的计算，详见

拉普拉斯矩阵其实就是定义了一种在Graph上的散度计算，计算完发现正好长L=D-A（度矩阵减邻接矩阵）这个样子（仅考虑最简单的拉普拉斯矩阵）

拉普拉斯矩阵是拉普拉斯算子在Graph领域的特殊表示，应当具有同拉普拉斯算子一样的能力：提取特征。如果能提取特征，就可以作为傅里叶变换的基函数（对应傅里叶变换公式中的e^-iwt），进而可以借助1.2结论：图域卷积 = 频域相乘，完成对傅里叶变换的定义（即确定傅里叶变换的基），实现图域到频域的转换与分解

怎么把拉普拉斯矩阵运用到傅里叶变换中去呢？换句话说，怎么确定傅里叶变换的基？

有很多种选择，但是GCN中选用的是拉普拉斯矩阵的特征向量，因为它可以视为Graph的最好的一种嵌入，可以让如在集合图像上更平滑。

详见（翻译：N维空间中的任意一组正交基都可以作为时域（空域）到频域的基，而图傅里叶变换选择拉普拉斯矩阵特征向量作为基，原因是图拉普拉斯矩阵特征向量可以视为图G最好的一组n维嵌入，因其满足于迪利克雷能量最小，所以这组基可以让图像更平滑（我的理解就是因为是特征向量，所以运算之后图像没有变形）

至此，graph中对应的 傅里叶变换的基 就是 拉普拉斯矩阵的特征向量

graph傅里叶变换也把graph上定义的任意向量 ，表示成了拉普拉斯矩阵特征向量的线性组合，就像在信号领域的傅里叶变换时，不断提取出不同w对应的信号分量

5. 太长不看总结版

傅里叶变换 用于在图域与频域之间进行转换，将一个在图域视角看来完整的东西按照“是否含有某个特征”为依据进行“拆解”到频域的若干项。“拆解”这个概念类似于我们如何获取平面空间中某向量的坐标：投影到x轴上的结果包含几个x轴单位向量、投影到y轴上的结果包含几个y轴单位向量

拉普拉斯矩阵 是Graph领域的拉普拉斯算子，其特征向量可以当作傅里叶变换的基，基的作用类似于待匹配的特征。在图域种若含有此特征的分量，则可经傅里叶变换抽取出来。一个特征向量对应的特征值就类似于一个e^-iwt基的w

extra

b站-珂学原理

GCN谱域解释经典文章 6/7节是理解的关键
第一次看的时候云里雾里，看完本文再重新看应该能理解更多

感谢妙蛙草和他的小伙伴们 😉