Bunny_Ben-CSDN博客

原创论文《Surrogate Representation Learning with Isometric Mapping for Gray-box Graph Adversarial Attacks》笔

【SRLIM 2022 WSDM】本文认为代理模型的训练和所提供的梯度信息的可靠性还缺乏讨论。在图数据中，节点的拓扑结构是攻击者可以利用的重要信息，保留这种拓扑信息可以提供攻击的可转移性。然而代理模型在训练时丢失的这种信息，所以梯度信息变得不可靠。本文针对该问题提出了一种使用等距映射的代理模型表示学习方法SRLIM，通过在代理模型的训练过程中保留节点的拓扑结构，生成更可靠的梯度信息，这些信息可以指导生成具有高可转移性的对抗性扰动。

2024-07-24 09:40:29 714

原创论文《Revisiting Heterophily For Graph Neural Networks》笔记

【ACM】作者从聚合后节点相似性的角度重新审视异配性，并定义了新的同质性度量方法。基于聚合相似度度量这一指标，作者提出了一种新的框架，称为自适应信道混合（Adaptive Channel Mixing，ACM），它通过自适应地利用聚合、多样化和身份信道来提取更丰富的局部信息，以对应不同的节点异配性情况。

2024-07-17 19:13:57 608

原创如何使用变分自动编码器从潜在空间进行采样（How to Sample From Latent Space With Variational Autoencoder）

VAE的编码器神经网络输出的参数定义了潜在空间的每个维度的概率分布（多元分布）。对于每个输入，编码器为潜在空间的每个维度产生平均值和方差。输出均值和方差用于定义多元高斯分布。解码器神经网络与AE模型相同。

2024-07-12 09:51:24 938

原创自动编码器（Autoencoders）

神经网络以各种形状和大小存在，并且通常以其输入和输出数据类型为特征。例如，图像分类器是用卷积神经网络构建的。它们将图像作为输入，并输出类的概率分布。自动编码器是一类输入与输出相同的神经网络。它们的工作原理是将输入压缩到潜在空间表示中，然后从该表示中重建输出。

2024-07-11 10:47:26 607

原创潜在空间可视化（Latent space visualization）

在处理数据集时，我们要做的第一件事是一种有意义的方式将数据可视化。在我们的例子中，图像（或像素）空间有784维（28×28×1），我们显然无法绘制它。我们面临的挑战是将所有这些维度压缩成我们可以掌握的2D或3D形式。这就是t-SNE，一种将高维空间映射到2D或3D空间的算法，同时试图保持点之间距离不变。我们将使用这种技术来绘制我们数据集的嵌入，首先直接从图像空间，然后从较小的潜在空间。

2024-07-09 18:08:24 701

原创论文《Generalizable Adversarial Attacks Using Generative Models》笔记

【DAGAER】传统的攻击方法依赖于约束优化范式，具有局限性，例如经典的Nettack攻击方法。本文提出了一个统一的白盒对抗攻击生成框架，该方法学习了目标域的深度生成模型，不是在原始输入空间中生成对抗性例子，而是**学习在一个低维连续的潜在空间中生成扰动**。该方法的优势是可以适应不同的输入域，比如输入为图像、文本和图结构数据，并且能有效地产生不同的对抗扰动。

2024-07-08 10:46:02 891

原创理解机器学习中的潜在空间（Understanding Latent Space in Machine Learning）

If I have to describe latent space in one sentence, it simply means a representation of compressed data.如果我必须用一句话来描述潜在空间，它只是意味着压缩数据的表示。

2024-07-05 17:39:44 944

原创理解GCN

理解GCN

2024-07-05 15:18:49 962

原创 Heterophily GNNs：异配图神经网络算法总结（2019-2024顶会）

Heterophily GNNs：异配图神经网络算法总结（2019-2024顶会）

2024-06-28 09:24:46 142

原创论文《Finding the Missing-half：Graph Complementary Learning for Homophily-prone and Heterophily-prone G

【GOAL】本文的核心内容是关于GNNs在处理现实世界图结构时面临的“缺失一半”问题，即现有GNN在训练时只考虑了图中现有的连接类型（同配或异配倾向），而忽视了另一种类型的连接信息。为了解决这个问题，作者提出了一种名为Graph Complementary Learning（GOAL）的新方法。

2024-06-23 13:13:58 597

原创论文《Tree Decomposed Graph Neural Network》笔记

【TDGNN】本文提出了一种树分解方法来解决不同层邻域之间的特征平滑问题，增加了网络层配置的灵活性。通过图扩散过程表征了多跳依赖性（multi-hop dependency），构建了TDGNN模型，该模型可以灵活地结合大感受场的信息，并利用多跳依赖性进行信息聚合。

2024-06-22 18:27:17 807 2

原创中国科学院大学校历（2024-2025年）

中国科学院大学校历（2024-2025年）

2024-06-22 16:17:01 206

原创论文《Geom-GCN：Geometric Graph Convolutional Networks》笔记

【Geom-GCN】现有的MPNNs方法具有两个基本弱点：①丢失邻域节点的结构信息；②缺乏捕获非同配性图的长距离依赖的能力。本文从经典神经网络和网络几何学的观察出发，提出了一种新的几何聚合方案，该方案利用图背后的连续空间进行聚合，以克服上述弱点。本文将几何聚合方案应用于图卷积网络，提出Geom-GCN，用于执行图上的归纳学习。Geom-GCN通过节点嵌入、结构邻域和双层聚合三个模块来实现。

2024-06-21 20:15:10 1294

原创论文《Finding Global Homophily in Graph Neural Networks When Meeting Heterophily》笔记

【GloGNN】现有方法通过扩展节点的邻域来包含具有同配性的多跳邻居，但为不同节点设置个性化的邻域大小是一个挑战，且现有方法忽略了邻域之外的同配性节点。为了解决这些问题，作者提出了GloGNN和GloGNN++模型。这些模型通过学习系数矩阵来捕获节点之间的相关性，并基于此进行邻域聚合。系数矩阵允许有符号值，并且可以从一个具有封闭形式解的优化问题中导出。作者从理论上证明了系数矩阵和生成的节点嵌入矩阵具有期望的分组效应，即如果两个节点具有相似的特征和局部结构，无论它们在图中距离多远，它们的嵌入向量都会彼此接近。

2024-06-21 14:20:02 731

原创论文《Universal Graph Convolutional Networks》笔记

【UGCN】论文提出一个基本问题，即是否不同的网络结构属性应该采用不同的传播机制。通过实验发现，对于完全同配性、完全异配性和随机性的网络，1-hop、2-hop和k-nearest neighbor（kNN）邻居分别更适合作为信息传播的邻域。为了应对现实世界网络的复杂性，作者提出了一种新的通用GCN框架——UGCN。该框架通过多类型卷积同时提取1-hop、2-hop和kNN网络的信息，然后设计一种判别式聚合来充分融合这些信息，以满足给定的学习目标。

2024-06-20 11:40:50 766

原创论文《Cross-Space Adaptive Filter：Integrating Graph Topology and Node Attributes for Alleviating the Ov

【CSF】本文是关于GCN的过度平滑问题。过度平滑问题是指在深层GCN中，节点表示变得难以区分，导致性能下降。为了解决这个问题，作者们提出了一种名为Cross-Space Filter（CSF）的新型自适应滤波器。CSF结合了图拓扑和节点属性空间的信息，以产生自适应频率信息。

2024-06-19 15:22:09 646 3

原创论文《Refining Latent Homophilic Structures over Heterophilic Graphs for Robust Graph Convolution Netwo

【LHS（异配图对抗攻击防御模型）】本文通过自动学习异配图上的潜在同配性结构（Latent Homophilic Structures，LHS）来提高GCNs的鲁棒性。

2024-06-17 16:51:20 822 3

原创论文《PC-Conv：Unifying Homophily and Heterophily with Two-Fold Filtering》笔记

【PC-Conv】提出一种新的机制，能够在不同同配性水平的图上同时提取同配性和异配性信息。

2024-06-12 15:01:00 586

原创论文《From Latent Graph to Latent Topology Inference：Differentiable Cell Complex Module》笔记

【DCM】本文提出了一种新型的深度学习模块——可微分细胞复合模块（Differentiable Cell Complex Module，DCM），它用于推断潜在的拓扑结构（Latent Topology Inference，LTI）。这个模块旨在改进图神经网络（GNNs）的性能，特别是在处理没有固定图结构或给定图结构不理想的情况下。

2024-06-07 16:43:39 751

原创论文《NetInfoF Framework：Measuring and Exploiting Network Usable Information》笔记

【NETINFOF】这是一篇关于图神经网络在网络可用信息（Network Usable Information，UNI）测量和利用方面的研究论文。这篇文章提出了一个名为NetInfoF的框架，旨在评估图结构和节点特征中蕴含的信息量，并利用这些信息来解决图任务（如链接预测和节点分类）。

2024-06-06 15:56:47 996

原创论文《MixHop：Higher-Order Graph Convolutional Architectures via Sparisified Neighborhood Mixing》笔记

【MixHop】根据2024年异配图神经网络综述《Towards Learning from Graphs with Heterophily：Progress and Future》中的分类（Taxonomy）部分，MixHop是半监督学习（Semi-Supervised）下的第二类找到多跳邻居（Finding Multi-Hop Neighbors）中的一种算法，该算法在GCN的基础上从只聚合一跳邻居信息优化至可以聚合多跳邻居信息，从而更适用于一跳邻居间异配但多跳邻居间同配的图。

2024-06-03 16:45:52 881 1

原创论文《Beyond Low-frequency Information in Graph Convolutional Networks》笔记

【FAGCN】只探索低频信号/低频信息不利于学习一个有效的节点表示，本文提出了可以在消息传递过程中自适应地集成不同信号的频率自适应图卷积网络FAGCN，并从理论上分析了低频信号和高频信号在学习节点表示中的作用，进一步解释了FAGCN在不同类型的网络上表现良好的原因。

2024-05-31 22:03:57 933 2

原创论文《Adaptive Universal Generalized PageRank Graph Neural Network》笔记

【GPRGNN】根据2024年异配图神经网络综述《Towards Learning from Graphs with Heterophily：Progress and Future》中的分类（Taxonomy）部分，我们选择研究不同类别下的异配图神经网络，从GPRGNN开始。

2024-05-31 15:36:06 710 4

原创论文《Towards Learning from Graphs with Heterophily：Progress and Future》笔记

这是2024年发表在arXiv上的一篇异配图神经网络综述，比较好理解，适合入门学习。代码已开源。可以根据挑战和未来工作选择研究方向，然后基于分类中现有的图神经网络有针对性的展开研究。

2024-05-29 11:17:25 453

原创论文《Is Homophily A Necessary for Graph Neural Networks？》笔记

总结一下：一般的研究认为GCN只适用于具有Homophily Assumption（同质性假设）的图，而不适用于异配图，并且针对异配图设计了专门的GNNs。另一方面，同时存在**“好”和“坏”的异配性**，GCN实际上可以在“好”的异配性上获得更强的性能，而它们通常在“坏”的异配性上失败。3、我们仔细调查了使用的同配性和异配性的基准，并利用我们的理论揭示了GCN在它们上面的表现的原因。前者为“好“的异配性，GCN可以获得好的性能，后者为”坏“的异配性，GCN不可以获得好的性能。这样的图有什么特点？

2024-05-28 19:44:35 897 3

bunny___的博客