图卷积神经网络课程笔记（一）——谱域图卷积（Spectral）背景知识及经典模型

最新推荐文章于 2024-09-11 15:32:04 发布
最新推荐文章于 2024-09-11 15:32:04 发布
阅读量3.6k 收藏 52
点赞数 9
文章标签： 卷积 神经网络 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43803931/article/details/107710681
版权
本文是《图卷积神经网络》课程笔记，介绍谱域图卷积背景知识，包括图傅立叶变换、拉普拉斯矩阵，并详细讲解了SCNN、ChebNet和GCN三种经典模型。SCNN用可学习的对角矩阵代替卷积核，ChebNet利用Chebyshev多项式避免特征分解，GCN则进一步简化为仅考虑1阶切比雪夫多项式。
摘要由CSDN通过智能技术生成

此博文是对深蓝学院《图卷积神经网络》课程笔记进行整理，简要阐述了谱域图卷积背景知识以及经典的图谱卷积模型。

其中背景知识先摆出结论，之后通过提问题的方式循序渐进引出各种知识点，如图谱卷积定理、傅立叶变换、拉普拉斯矩阵等；经典的图谱卷积模型有SCNN、ChebNet、GCN。

欢迎各位前辈们指出问题，一起交流。

未经授权禁止转载。

一、谱域图卷积定理

 

 

即：

  1. 将空域信号转换到频域，然后相乘。
  2. 在将相乘的结构再转换到空域。

问题来了：

  • 空域信号如何转换到频域？通过图傅立叶正变换
  • 频域信号如何转换到空域？通过图傅立叶反变换

 

二、图傅立叶变换

经典傅立叶反变换的本质：把任意一个函数表示成了若干个正交基函数的线性组合。

经典傅立叶正变换的本质：求线性组合的的系数。具体做法是由原函数和基函数的共轭的内积求得。

 

类比到图中

图傅立叶反变换：任意的图上信号可以表示为若干个正交基的线性组合。

其中x是原信号

 

最低0.47元/天 解锁文章
打野的蔡文姬
关注
图卷积神经网络(part3)--三个经典谱域图卷积模型
小山羊的学习日志
12-07 1053
学习笔记，仅供参考，有错必究 文章目录三个经典图谱卷积模型概述SCNNSCNN的缺点 三个经典图谱卷积模型 概述 三个图谱卷积模型（SCNN、ChebNet、GCN）均立足于谱图理论且一脉相承； ChebNet可看做SCNN的改进，GCN可看做ChebNet的改进，即SCNN -> ChebNet -> GCN 三个模型均可认为是下式的一个特例： SCNN 卷积前后信号的信号： 其中，nnn表示节点数，CCC和FFF表示通道个数，在层与层之间进行卷积操作不改变节点个数，但是通道个数可
图卷积神经网络笔记——第二章：谱域图卷积介绍（2）
Ma Sizhou
05-31 5571
上一小节： 链接. 接下来介绍三个经典的图谱卷积模型：SCNN、ChebNet、GCN 目录一、简介二、SCNN三、ChebNet四、GCN五、小结 一、简介 上面这个式子是上一小节最后推导的结果。 二、SCNN 上面图片实际上是GCN模型的图片，放在这里是因为不同方法的卷积网络特征图的规律都是一样的。如上面左图，首先某一层的图的信号可以表示为一个 n∗Cn*Cn∗C 的一个矩阵，nnn 就表示有nnn个不同的节点，CCC 代表通道个数；然后所谓图上的信号，其实就可以分解为各个节点上的信号，用XXX.
图卷积（2）——谱域图卷积（1）
maple的博客
10-28 874
图卷积（2）——谱域图卷积（1） 卷积 F[f1(t)⋆f2(t)]=F1(w)⋅F2(w)f1(t)⋆f2(t)=F−1[F1(w)⋅F2(w)] \begin{aligned} \mathcal{F}\left[f_{1}(t) \star f_{2}(t)\right]&=F_{1}(w) \cdot F_{2}(w) \\ f_{1}(t) \star f_{2}(t)&=\mathcal{F}^{-1}\left[F_{1}(w) \cdot F_{2}(w)\right] \en
图卷积神经网络GNN（一）
最新发布
xiaoxu的博客
09-11 842
对于图神经网络（GNN）来输入的数据是图。（解决输入数据不规则情况）研究涵盖：节点分类（nodeclassification）、边预测（linkprediction）、社群检测（community detection）、网络营销（viral marketing）、snap数据集是Jure等人不间断收集的网络数据集，极大地推动社交网络领域的发展整个GNN的任务整体上可以分为3种主要的任务组成。
【图卷积网络】02-谱域图卷积介绍
冷芝士鸭的学习笔记
01-25 2982
图卷积神经网络（Graph Convolution Neural Networks, GCNNs）方法分为两类，基于谱域的方法和基于空域的方法。基于谱域的方法通过从图信号处理的角度引入滤波器来定义图卷积，其中图卷积操作被解释为从图信号中去除噪声。基于空域的方法将图卷积表示为聚合来自邻居的特征信息。
谱域图卷积
shengweiit的博客
06-07 543
根据卷积定理，两信号在空域（或者时域）的卷积的傅里叶变换等于这两信号在频域中的傅里叶变换的乘积。将空域信号转换到频域，然后相乘将相乘的结果在转换到空域基于图谱理论，图傅里叶变换拉普拉斯矩阵是对称半正定矩阵n阶对称矩阵一定有n个线性无关的特征向量对称矩阵的不同特征值对应的特征向量相互正交，这些正交的特征向量构成的矩阵为正交矩阵实对称矩阵的特征向量一定是实向量半正定矩阵的特征值一定非负。
谱域图卷积神经网络知识梳理(二) 谱域GCN变种讲解
WANGYANG的博客
02-27 1250
对传统谱域图神经网络进行回顾，对后续的衍生模型进行系统化的讲解，梳理时间线以及优缺点必要性分析。
判断深度学习模型的稳定性_图深度学习连载八，入门教程之简化图卷积模型
weixin_39820173的博客
10-21 236
本教程是一个系列免费教程，争取每月更新2到4篇。主要是基于图深度学习的入门内容。讲述最基本的基础知识，其中包括深度学习、数学、图神经网络等相关内容。该教程由代码医生工作室出版的全部书籍混编节选而成。偏重完整的知识体系和学习指南。在实践方面不会涉及太多基础内容 (实践和经验方面的内容，请参看原书)。文章涉及使用到的框架以PyTorch和TensorFlow为主。默认读者已经掌握Python和Tens...
图卷积神经网络笔记——第二章：谱域图卷积介绍（1）
热门推荐
Ma Sizhou
05-29 1万+
目录一、图卷积介绍二、图谱卷积的背景知识 一、图卷积介绍 其中语音可以看作是一维向量，图像可以看作是二维矩阵，视频可以看作是三维矩阵。 其中序列无序性是指：上图中红色节点的邻居节点有两个，而我们不知道它们谁应该排在前，谁应该排在后，这就是序列无序性。维数可变性是指：上图中红色节点和蓝色节点的邻居节点个数是可以不相同的，这就是维数可变性。因此我们无法将3x3的卷积核应用到图数据上，这就是图卷积网络需要解决的问题。 后面我会先介绍谱域图卷积方法，主要由下面圈出来的三篇文章入手，即SCNN、GCN
图神经网络——(2)图卷积神经网络
Ma Sizhou
04-11 3415
初入图神经网络，记录其中的一些理论知识。        上一篇文章中简单的介绍了几种与图数据相关的名词以及它们之间的联系与区别，这篇文章中主要介绍图卷积神经网络（GCN）的实现原理。 一、卷积VS图卷积        图卷积操作的思想实际上是直接受到卷积...
图神经网络(GNN)：综述【从图(Graph)到图卷积(Graph Convolution)】【各种图神经网络模型的目的就是学习到图中各个节点的Embedding表示】
u013250861的博客
09-28 2215
本文试图沿着图神经网络的历史脉络，从最早基于不动点理论的**图神经网络**(Graph Neural Network， GNN)一步步讲到当前用得最火的**图卷积神经网络**(Graph Convolutional Neural Network， GCN)。 本文的提纲与叙述要点主要参考了3篇图神经网络的Survey，分别是来自： - IEEE Fellow的 [Comprehensive Survey on Graph Neural Networks](https://arxiv.org/abs/190
【GNN】谱域图卷积
qq_30340349的博客
04-26 495
GNN 图卷积学习笔记
【Graph Neural Network 图神经网络】2.Spectral-based Graph Convolutional Networks 基于谱域的图卷积网络
TsingM
06-22 2329
GCN(Semi-Supervised Classification with Graph Convolutional Networks, ICLR 2017) 该文为基于谱域的图卷积网络的代表作，为图神经网络模型引入一个简单且表现好的分层传播规则，该规则直接在图上运行，展示了它是如何从谱图卷积的一阶近似中获得增益的，并演示了如何将这种形式的基于图的神经网络模型用于图中节点的快速和可扩展的半监督分类。 0. 基本概念 图用G=(V,E)G=(V,E)G=(V,E)表示，VVV中元素为节点（vertex），E
谱图卷积（Spectral Graph Convolution)
weixin_43120238的博客
08-18 5172
谱图卷积（Spectral Graph Convolution） 正定矩阵和半正定矩阵： 【定义1】给定一个大小为的实对称矩阵A，若对于任意长度为 n 的非零向量x，有恒成立，则矩阵A是一个正定矩阵。 【定义2】给定一个大小为的实对称矩阵A，若对于任意长度为 n 的非零向量x，有恒成立，则矩阵A是一个半正定矩阵。 拉普拉斯矩阵的谱分解： 拉普拉斯矩阵作为半正定矩阵，能够进行谱分解且对角元一定是非负数： ; 同时，作为对称矩阵， --> Gra...
图卷积（3）——谱域图卷积（2）
maple的博客
10-29 466
图卷积（3）——谱域图卷积（2） 图傅里叶变换 将图中的nnn个节点表示为x=[x1,x2,⋯ ,xn]T∈Rnx=\left[x_{1}, x_{2}, \cdots, x_{n}\right]^{T} \in \mathbb{R}^{n}x=[x1​,x2​,⋯,xn​]T∈Rn，每一个节点上有一个信号值，类似于图像的像素，所以x(i)=xix(i)=x_{i}x(i)=xi​，每个节点也可以是个向量。 在傅里叶变换中，不同频率的余弦函数可以当做基函数。经典傅里叶变换的本质是求一个线性组合的系数，傅里叶
图卷积神经网络2-谱域卷积：SCNN/ChebNet/GCN的引入和介绍
yilulvxing的博客
12-03 6713
备注：本篇博客摘自某培训机构上的图神经网络讲解的视频内容，该视频关于图神经网络入门讲解、经典算法的引入和优缺点的介绍比较详细，逻辑主线也比较清晰。因此记录分享下。 目录 1：简介 2：SCNN 3：ChebNet 4：GCN GCN特点 5：总结 5.1：图卷积实现思路 5.2：谱域图卷积实现理论支撑 5.3：经典图谱卷积 上一篇文章链接：文章地址 继续上一篇的图卷积推导过程： 上面公式推导的结果就是谱域图卷积最终的公式，所有的谱域图卷积的原理就是这个公式，只是对滤波器 ​做.
GNN-谱图卷积
weixin_37410657的博客
05-15 470
谱图卷积是一种基于图的谱表示（即图的拉普拉斯矩阵的特征分解）的图卷积方法。谱图卷积的核心思想是将图信号（节点特征）转换到图的谱域（频域）中进行处理，然后再转换回空间域。这种方法的灵感来源于信号处理中的傅里叶变换和频域滤波。谱图卷积的基础是图的拉普拉斯矩阵（Laplacian matrix），它是一种描述图结构的重要矩阵。LD−A其中，L是拉普拉斯矩阵，D是图的度矩阵（对角矩阵，对角线元素为每个节点的度数），A是图的邻接矩阵。LUΛUT其中，U是拉普拉斯矩阵的特征向量矩阵，
图卷积神经网络1-谱域图卷积：拉普拉斯变换到谱域图卷积
yilulvxing的博客
11-29 7190
备注：本篇博客摘自某培训机构上的图神经网络讲解的视频内容，该视频关于图神经网络入门讲解、经典算法的引入和优缺点的介绍比较详细，逻辑主线也比较清晰。因此记录分享下。 目录： 图卷积近年发展 图卷积简介 2.1. 经典卷积神经网络的应用 2.2. 经典卷积神经网络的局限 2.3. 如何将卷积操作拓展到图结构数据中？ 谱域卷积 3.1. 图谱卷积背景知识 3.2. 图谱卷积的数学知识 3.3. 图傅里叶变换 3.4. 图傅里叶反变换 3.5. 图傅里叶正变换 3.6. 经典傅里叶变换与图傅里叶变换的对比 3.
谱图卷积原理
陨星落云的博客
10-06 707
评论 6
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值