matla图像b傅里叶逆变换_从传统傅里叶变换到图卷积

一、为什么要研究图卷积(GCN)?

CNN只能处理 Euclidean Structure 的数据,如CV、NLP这些领域的数据,但无法处理 Non Euclidean Structure 的数据。真实世界中,大多数数据以图或者网络的形式存在,比如社交网络,知识图谱等。

d2ca9eb1654a9ae62eb3c6d8e33a06cf.png
Euclidean Structure 数据 与 Non Euclidean Structure 数据

二、CNN可以直接迁移到GCN吗?

不能。因为 Non Euclidean Structure 的数据无法保持平移不变性。具体来说,由于在拓扑图中每个顶点的相邻顶点数目都可能不同,因此无法用一个同样尺寸的卷积核来进行卷积运算。需要在图上重新设计卷积的方法,而目前图卷积方法主要分为两大类:谱方法(Spectral Methods)和 空间方法(Spatial Methods)。

谱方法 :大概思路是通过傅里叶变换等将图数据从空间域映射到谱域,然后在谱域实现卷积,最后再将处理后的信号映射回空间域。

空间方法 :在空间域直接定义卷积, 这里的卷积被定义为所有邻居结点的加权平均函数。但主要问题是由于每个结点的邻居大小不一样,很难实现参数共享。

三、传统傅里叶变换与图傅里叶变换

3.1 图拉普拉斯矩阵引入

“谱” 这个概念的时候比较抽象,确实不好理解。可以简单的认为 实际上就是对一个信号(视频,音频,图像,图)分解为一些简单元素的线性组合(小波基,图基)。如果这些分解的元素之间是线性无关的的(正交的),便可以作为信号的基。在信号处理中最常用的谱是傅里叶变换,它提供了不同频率下的正弦和余弦波作为基,从而我们可以将信号在这些基进行分解。

为了满足傅里叶变换要求, 需要找到连续的正交基对应于傅里叶变换的基。而图上的拉普拉斯矩阵恰好满足这些条件,它的特征值分解过程就是我们寻找构造图所需的正交基的过程。

  • 拉普拉斯是半正定实对称矩阵, 对称矩阵一定n个线性无关的特征向量
  • 实对称矩阵具有n个特征值,所对应的n个特征向量相互正交
  • 半正定矩阵特征值非负
  • n 阶实对称矩阵L必可对角化, 且可用正交矩阵对角化

拉普拉斯矩阵谱分解为:

, 其中
,

其中,

个特征值构成的对角矩阵,
是单位特征向量组成的矩阵且为正交矩阵,即

3.2 传统傅里叶变换

传统傅里叶变换定义为:

逆变换为:

3.3 图傅里叶变换

为节点的特征矩阵,
表示图上第
个节点的特征。
为拉普拉斯矩阵
的特征向量矩阵,则特征值
(频率) 所对应的特征向量
可作为傅里叶变换中的一个正交基。因此,

Graph上的傅里叶变换可以表示为:

逆变换为:

四、传统傅里叶卷积与图卷积

传统傅里叶卷积:

卷积定理:函数卷积的傅里叶变换是函数傅立叶变换的乘积,即对于函数

两者的卷积是其函数傅立叶变换乘积的逆变换:

证明如下:

设两时域信号

,
,根据卷积的定义有:

傅里叶变换为:

图卷积:

卷积定理在图上也是成立的,设

为卷积核函数,
为结点的特征。则图卷积可以表示为:

其中,

分别表示
傅里叶变换的结果,
是 hadamard product(哈达马积), 即这两个向量进行内积运算(对应元素的乘积)。

由于卷积核可以通过学习或者设计得到,我们可将

的傅里叶变换
写成对角形式:

其中,

所以,图卷积最终的结果可表示为:

五、图卷积变换完整过程举栗

给定一个图

,其中
是节点集,
是边集,
是加权邻接矩阵。另外,每个结点有
维特征,
表示结点的特征矩阵。计算具体步骤如下:
  1. 计算得到图拉普拉斯矩阵

, 其中
表示度矩阵。

2. 归一化图拉普拉斯矩阵

3. 求图

的 Fourier basis

进行特征分解得到正交的特征向量集合(按照对应的特征值从大到小排序)作为图的 Fourier basis。

4. 然后将图的拉普拉斯矩阵对角化

, 其中
,

5. 得到图的傅里叶变换

对信号进行傅里叶变换即

, 其中

6. 最后计算图卷积

, 这里的
表示谱域的卷积滤波器

参考资料:

Nango 明楠:图卷积网络GCN的理解与介绍​zhuanlan.zhihu.com
刘浪:图卷积神经网络(GCN)详解:包括了数学基础(傅里叶,拉普拉斯)​zhuanlan.zhihu.com
a8c71cb4a3c65fa8351c4e0fcde12f05.png
图图:谱聚类方法推导和对拉普拉斯矩阵的理解​zhuanlan.zhihu.com
如何理解 Graph Convolutional Network(GCN)?​www.zhihu.com
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值