《HARP-Hierarchical Representation Learning for Networks》论文解读

《HARP-Hierarchical Representation Learning for Networks》论文解读

1.论文思路：

本论文遵循的是一个元策略提身网络嵌入的效果。想法是找到一个更小的图能够近似化原始图的全局结构，然后对这个简化的图进行初始化向量表示，以便更好的叠加到原始图的表示。然后基于这个想法提出：将图分解为一系列层次，然后将图的一系列层次结构从最初的层次结构嵌入表示一步步叠加到原始的层次结构中，从而获得原始图的嵌入表示。此文提出的方法能够很好的保留网络高阶结构特征。
分析：

2.论文HARP模型解读：

模型由三个部分组成———图的粗化、图的嵌入和表示的重新整理，具体如下:
1图粗化：给定一个图G，图粗化算法创建一个依次较小的图G0、G1、···、GL的层次结构，其中G0 = G。较粗(较小)的图保留了原始图的全局结构，但节点和边缘明显较少。生成图层次结构的算法如下。

HARP模型算法如下：

2.图在最粗化图上的嵌入(第2-3行):使用所提供的图的嵌入算法，在最粗图GL上得到图的嵌入。由于GL的尺寸通常很小，因此更容易得到高质量的图形表示。
3.图表示扩展和精度化(第4-7行):我们将图的表示从最粗图扩展到最佳的图。对于每个图Gi,我们延长Gi+1的图表示作为其初始嵌入Φ’Gi。然后，嵌入算法Embed()应用于(Gi,Φ’Gi)进一步细化Φ’Gi,导致嵌入Φ’Gi重新计算。我们将在下面的嵌入扩展部分中讨论这一步。
4.原始图像的图嵌入(第8行):我们返回ΦG0,是原始图的图嵌入的。
 

Graph Coarsening

在算法2中，我们提出了一种混合图粗化方案，该方案在不同尺度上保持了全局图结构信息。它的两个关键部分，即边缘坍缩和中心坍缩，分别保持了一阶近似和二阶近似。一阶邻近性是指在输入图中保留观察到的边缘，而二阶邻近性是基于节点的共享邻域结构。

Edge Collapsing

Edge Collapsing是一种有效的保持一阶近似的算法。它选择E0⊆E,这样没有两条边E0事件相同的顶点。然后，对于每个(ui, vi)∈E0，将(ui, vi)合并为单个节点wi，合并与ui和vi相关的边，因此，粗图中的节点数至少为原图的一半。如图2a所示，边缘折叠算法将节点对(v1, v2)和(v3, v4)分别合并为超级节点v1,2和v3,4，得到一个包含2个节点和1条边的更粗的图。合并的顺序是任意的，我们发现不同的合并顺序在实践中会导致非常相似的节点嵌入。

Star Collapsing

真实世界的图形通常是无标度的，这意味着它们包含大量的类星结构。星型是由连接到许多外围节点的流行中心节点(有时称为集线器)组成。边缘折叠算法虽然简单有效，但不能充分压缩图中星形结构。考虑图2b中的图片段，其中唯一的中心节点v7连接到所有其他节点。假设中心节点的度数为k，显然边缘折叠方案只能将该图压缩为k-1节点的粗化图。因此当k为大，粗化过程可以是任意慢，采取O(k)步而不是O(logk)步。对中心结构的一种观察是，外围节点之间有很强的二阶相似性，因为它们有相同的邻域。这才有了我们的中星坍缩方案，该方案将具有相同邻居的节点合并为超节点，因为它们彼此相似。如图2c所示，(v1, v2)、(v3, v4)和(v5, v6)由于共享相同的邻居(v7)而合并为超级节点，生成只有k/2个节点的粗糙图。

Hybrid Coarsening Scheme

将边缘折叠和星型折叠相结合，提出了一种混合的图粗化方法，该方法适用于所有的测试图。在每个粗化步骤中，混合粗化方案首先对具有星折叠的输入图进行分解，然后采用边缘折叠方案生成合并图。我们重复这个过程，直到得到一个足够小的图(少于100个顶点)。

总结：

本文提出了一种多级图表示学习范式。通过递归地将输入图合并为更小但结构相似的图，HARP捕获了输入图的全局结构。通过学习这些小图的图表示，得到了一个较好的输入图初始化方案。这种多级范式进一步结合了最先进的图形嵌入方法，即DeepWalk、LINE和Node2vec。在各种实际图形上的实验结果表明，对于这三种方法，引入HARP都可以获得更高质量的图形嵌入。