论文阅读笔记(异配图神经网络)
文章平均质量分 87
异配图神经网络相关论文
Bunny_Ben
中科院计算所学术媛一枚~ 本科的研究方向是计算机视觉(CV),研究生的研究方向是人工智能和图神经网络(AI&GNN)。
Basically, I'm not interested in doing research and I never have been … I'm interested in understanding, which is quite a different thing. And often to understand something you have to work it out yourself because no one else has done it.
展开
-
论文《Graph Neural Networks with convolutional ARMA filters》笔记
【ARMA 2021 PAMI】本文介绍了一种新型的基于**自回归移动平均(Auto-Regression Moving Average,ARMA)**滤波器的图卷积层。与多项式滤波器相比,ARMA滤波器提供了更灵活的频率响应,对噪声更鲁棒,能更好地捕获全局图结构。原创 2024-09-09 15:50:23 · 967 阅读 · 0 评论 -
论文《Clarify Confused Nodes via Separated Learning》笔记
【NCGCN 2023 ArXiv】针对GNNs的异配性问题,本文提出了一个新的度量标准——邻域混淆(Neighborhood Confusion,NC),用于更可靠地区分同配性节点和异配性节点。基于NC度量,本文提出了一种名为邻域混淆引导的图卷积网络NCGCN的框架,该框架通过NC值对节点进行分组,并在组内进行权重共享和消息传递。原创 2024-09-06 08:47:39 · 694 阅读 · 0 评论 -
论文《Improving your graph neural networks:A High-Frequency Booster》笔记
【CLAR 2022 ICDMW】作者指出,现有的GNN模型主要关注于消息传递机制,但这些模型往往受限于低通滤波器的局限,导致在多层堆叠时性能下降。为了解决这个问题,论文提出了一种新的正则化方法,称为补全拉普拉斯正则化(Complement Laplacian Regularization,CLAR)。这种方法通过将原始图的补图(complement graph)引入到GNN中,以增强高频分量。作者认为补图包含了一个高通滤波器,并利用这一特性来提升GNN的表现力。原创 2024-09-03 21:04:04 · 1024 阅读 · 0 评论 -
论文《Node-wise Filtering in Graph Neural Networks:A Mixture of Experts Approach》笔记
【NODE-MOE 2024 ArXiv】不同节点表现出不同的同配性或异配性,采用现有的针对一个模式优化的全局滤波器可能会对具有其他模式的节点造成重大损失,而节点级滤波(node-wise)可以在温和条件下实现所有节点的线性可分性。本文提出NODE-MOE(Node-wise Filtering via Mixture of Experts)异配图神经网络算法,它利用专家混合(Mixture of Experts)的方法来适应性地为不同节点选择适当的滤波器。原创 2024-08-30 21:02:50 · 1022 阅读 · 6 评论 -
论文《Revisiting Heterophily For Graph Neural Networks》笔记
【ACM】作者从聚合后节点相似性的角度重新审视异配性,并定义了新的同质性度量方法。基于聚合相似度度量这一指标,作者提出了一种新的框架,称为自适应信道混合(Adaptive Channel Mixing,ACM),它通过自适应地利用聚合、多样化和身份信道来提取更丰富的局部信息,以对应不同的节点异配性情况。原创 2024-07-17 19:13:57 · 702 阅读 · 0 评论 -
Heterophily GNNs:异配图神经网络算法总结(2019-2024顶会)
Heterophily GNNs:异配图神经网络算法总结(2019-2024顶会)原创 2024-06-28 09:24:46 · 169 阅读 · 0 评论 -
论文《Finding the Missing-half:Graph Complementary Learning for Homophily-prone and Heterophily-prone G
【GOAL】本文的核心内容是关于GNNs在处理现实世界图结构时面临的“缺失一半”问题,即现有GNN在训练时只考虑了图中现有的连接类型(同配或异配倾向),而忽视了另一种类型的连接信息。为了解决这个问题,作者提出了一种名为Graph Complementary Learning(GOAL)的新方法。原创 2024-06-23 13:13:58 · 624 阅读 · 0 评论 -
论文《Tree Decomposed Graph Neural Network》笔记
【TDGNN】本文提出了一种树分解方法来解决不同层邻域之间的特征平滑问题,增加了网络层配置的灵活性。通过图扩散过程表征了多跳依赖性(multi-hop dependency),构建了TDGNN模型,该模型可以灵活地结合大感受场的信息,并利用多跳依赖性进行信息聚合。原创 2024-06-22 18:27:17 · 856 阅读 · 2 评论 -
论文《Geom-GCN:Geometric Graph Convolutional Networks》笔记
【Geom-GCN】现有的MPNNs方法具有两个基本弱点:①丢失邻域节点的结构信息;②缺乏捕获非同配性图的长距离依赖的能力。本文从经典神经网络和网络几何学的观察出发,提出了一种新的几何聚合方案,该方案利用图背后的连续空间进行聚合,以克服上述弱点。本文将几何聚合方案应用于图卷积网络,提出Geom-GCN,用于执行图上的归纳学习。Geom-GCN通过节点嵌入、结构邻域和双层聚合三个模块来实现。原创 2024-06-21 20:15:10 · 1361 阅读 · 0 评论 -
论文《Finding Global Homophily in Graph Neural Networks When Meeting Heterophily》笔记
【GloGNN】现有方法通过扩展节点的邻域来包含具有同配性的多跳邻居,但为不同节点设置个性化的邻域大小是一个挑战,且现有方法忽略了邻域之外的同配性节点。为了解决这些问题,作者提出了GloGNN和GloGNN++模型。这些模型通过学习系数矩阵来捕获节点之间的相关性,并基于此进行邻域聚合。系数矩阵允许有符号值,并且可以从一个具有封闭形式解的优化问题中导出。作者从理论上证明了系数矩阵和生成的节点嵌入矩阵具有期望的分组效应,即如果两个节点具有相似的特征和局部结构,无论它们在图中距离多远,它们的嵌入向量都会彼此接近。原创 2024-06-21 14:20:02 · 755 阅读 · 0 评论 -
论文《Universal Graph Convolutional Networks》笔记
【UGCN】论文提出一个基本问题,即是否不同的网络结构属性应该采用不同的传播机制。通过实验发现,对于完全同配性、完全异配性和随机性的网络,1-hop、2-hop和k-nearest neighbor(kNN)邻居分别更适合作为信息传播的邻域。为了应对现实世界网络的复杂性,作者提出了一种新的通用GCN框架——UGCN。该框架通过多类型卷积同时提取1-hop、2-hop和kNN网络的信息,然后设计一种判别式聚合来充分融合这些信息,以满足给定的学习目标。原创 2024-06-20 11:40:50 · 782 阅读 · 0 评论 -
论文《Cross-Space Adaptive Filter:Integrating Graph Topology and Node Attributes for Alleviating the Ov
【CSF】本文是关于GCN的过度平滑问题。过度平滑问题是指在深层GCN中,节点表示变得难以区分,导致性能下降。为了解决这个问题,作者们提出了一种名为Cross-Space Filter(CSF)的新型自适应滤波器。CSF结合了图拓扑和节点属性空间的信息,以产生自适应频率信息。原创 2024-06-19 15:22:09 · 664 阅读 · 3 评论 -
论文《Refining Latent Homophilic Structures over Heterophilic Graphs for Robust Graph Convolution Netwo
【LHS(异配图对抗攻击防御模型)】本文通过自动学习异配图上的潜在同配性结构(Latent Homophilic Structures,LHS)来提高GCNs的鲁棒性。原创 2024-06-17 16:51:20 · 840 阅读 · 3 评论 -
论文《PC-Conv:Unifying Homophily and Heterophily with Two-Fold Filtering》笔记
【PC-Conv】提出一种新的机制,能够在不同同配性水平的图上同时提取同配性和异配性信息。原创 2024-06-12 15:01:00 · 616 阅读 · 0 评论 -
论文《From Latent Graph to Latent Topology Inference:Differentiable Cell Complex Module》笔记
【DCM】本文提出了一种新型的深度学习模块——可微分细胞复合模块(Differentiable Cell Complex Module,DCM),它用于推断潜在的拓扑结构(Latent Topology Inference,LTI)。这个模块旨在改进图神经网络(GNNs)的性能,特别是在处理没有固定图结构或给定图结构不理想的情况下。原创 2024-06-07 16:43:39 · 786 阅读 · 0 评论 -
论文《NetInfoF Framework:Measuring and Exploiting Network Usable Information》笔记
【NETINFOF】这是一篇关于图神经网络在网络可用信息(Network Usable Information,UNI)测量和利用方面的研究论文。这篇文章提出了一个名为NetInfoF的框架,旨在评估图结构和节点特征中蕴含的信息量,并利用这些信息来解决图任务(如链接预测和节点分类)。原创 2024-06-06 15:56:47 · 1036 阅读 · 0 评论 -
论文《MixHop:Higher-Order Graph Convolutional Architectures via Sparisified Neighborhood Mixing》笔记
【MixHop】根据2024年异配图神经网络综述《Towards Learning from Graphs with Heterophily:Progress and Future》中的分类(Taxonomy)部分,MixHop是半监督学习(Semi-Supervised)下的第二类找到多跳邻居(Finding Multi-Hop Neighbors)中的一种算法,该算法在GCN的基础上从只聚合一跳邻居信息优化至可以聚合多跳邻居信息,从而更适用于一跳邻居间异配但多跳邻居间同配的图。原创 2024-06-03 16:45:52 · 925 阅读 · 1 评论 -
论文《Beyond Low-frequency Information in Graph Convolutional Networks》笔记
【FAGCN】只探索低频信号/低频信息不利于学习一个有效的节点表示,本文提出了可以在消息传递过程中自适应地集成不同信号的频率自适应图卷积网络FAGCN,并从理论上分析了低频信号和高频信号在学习节点表示中的作用,进一步解释了FAGCN在不同类型的网络上表现良好的原因。原创 2024-05-31 22:03:57 · 988 阅读 · 2 评论 -
论文《Adaptive Universal Generalized PageRank Graph Neural Network》笔记
【GPRGNN】根据2024年异配图神经网络综述《Towards Learning from Graphs with Heterophily:Progress and Future》中的分类(Taxonomy)部分,我们选择研究不同类别下的异配图神经网络,从GPRGNN开始。原创 2024-05-31 15:36:06 · 776 阅读 · 4 评论 -
论文《Towards Learning from Graphs with Heterophily:Progress and Future》笔记
这是2024年发表在arXiv上的一篇异配图神经网络综述,比较好理解,适合入门学习。代码已开源。可以根据挑战和未来工作选择研究方向,然后基于分类中现有的图神经网络有针对性的展开研究。原创 2024-05-29 11:17:25 · 472 阅读 · 0 评论 -
论文《Is Homophily A Necessary for Graph Neural Networks?》笔记
总结一下:一般的研究认为GCN只适用于具有Homophily Assumption(同质性假设)的图,而不适用于异配图,并且针对异配图设计了专门的GNNs。另一方面,同时存在**“好”和“坏”的异配性**,GCN实际上可以在“好”的异配性上获得更强的性能,而它们通常在“坏”的异配性上失败。3、我们仔细调查了使用的同配性和异配性的基准,并利用我们的理论揭示了GCN在它们上面的表现的原因。前者为“好“的异配性,GCN可以获得好的性能,后者为”坏“的异配性,GCN不可以获得好的性能。这样的图有什么特点?原创 2024-05-28 19:44:35 · 923 阅读 · 3 评论