图神经网络
文章平均质量分 92
O_1CxH
这个作者很懒,什么都没留下…
展开
-
图神经网络的过平滑问题和图残差网络
图神经网络的过平滑问题和图残差网络在GNN的深度堆叠中存在两大问题:梯度消失和过平滑。梯度消失是经典神经网络中就会出现的问题,也就是当网络层数堆叠地过多,前面的层梯度过小难以更新;另一个问题就是之前提到过的过平滑问题,在堆叠了多个图卷积层之后,每个节点的隐藏嵌入表示十分的类似,这个问题发生在谱域卷积(反复拉普拉斯平滑导致全图节点趋同)以及空域卷积(每次多聚合1阶邻域导致最后每个节点都聚合了全图的信息)上。解决过平滑的若干方案这些方案可以大致分为:向量融合类:SAGE向量拼接、Highway GCN原创 2021-10-09 17:33:02 · 2573 阅读 · 0 评论 -
一文讲通谱域图神经网络:从图信号处理GSP到图卷积网络GCN
谱域图神经网络:从图信号处理GSP到图卷积网络GCN文章目录谱域图神经网络:从图信号处理GSP到图卷积网络GCN图信号处理拉普拉斯矩阵拉普拉斯矩阵的意义拉普拉斯矩阵的变形图傅里叶变换关于矩阵特征向量、值拉普拉斯矩阵的特征向量、值图傅里叶变换图滤波器任意频率响应在空域上的含义图卷积层图卷积参数化、SCNN与ChebNetKipf的GCN layer空域模型与频域模型图卷积网络GCNGCN与CNN的联系从节点视角看GCN层从节点视角看GCN与CNNGCN的性质与问题GCN与Weisfeiler-Lehman算原创 2021-09-17 11:24:54 · 999 阅读 · 0 评论