初学者读文献时写的阅读笔记,有误勿喷啊!!!
Position-aware graph neural network,ICML(2019)
Jiaxuan You,Rex Ying Jure Leskovec
论文链接:http://proceedings.mlr.press/v97/you19b/you19b.pdf
代码链接:https://github.com/JiaxuanYou/P-GNN
现状:捕捉节点的位置信息对于在图结构数据进行的预测任务是十分重要的,但是目前的GNN模型在捕捉位置信息方面存在一定的局限性,无法捕捉节点的高阶邻域信息(较远的图结构信息),同时相似的邻居结构得到的节点表示是一样的
目的:本文提出P-GNNs模型,首先通过采用多个锚点集,计算目标节点与锚点集的距离,学习基于锚点集的非线性参数聚合模型来捕捉节点相对与锚点集的距离
P-GNNS 结构:流程:首先,进行锚点集采样,随机采样k个大小不一的锚点集;其次,给定函数F用来计算目标节点和锚点的距离信息,先通过函数F计算出目标节点和k个锚点集中的锚点间的距离信息S(k个);然后,采用
A
G
G
M
AGG_M
AGGM对锚点集的距离信息进行聚合,得到M矩阵(k行),采用
A
G
G
S
AGG_S
AGGS对于M矩阵进行聚合得到目标节点的表示h,用于下一层;用一个参数矩阵对M矩阵进行降维,输出z
其中z是position-aware,h是structure-aware,因为z是根据随机采样的锚点集得到的,不能用于下一层,因为每层的锚点集是不同的,随意需要对M进行聚合得到h进行下一层的计算
锚点集采样:锚点集大小不一的原因是,当锚点集小的时候,很容易不从在与目标节点有关系的节点;当锚点集大的时候,和目标节点相关的位置信息占比很少,所以采用任意大小的锚点集
模型采样
c
l
o
g
2
n
clog^2n
clog2n个锚点集,n表示节点的个数,c是超参数;每个节点可以按照
1
2
i
\frac{1}{2^i}
2i1概率进行采样
函数F和最短路径:函数
F
(
v
,
u
,
h
v
,
h
u
)
=
s
(
v
,
u
)
C
O
N
T
A
C
T
(
h
v
,
h
u
)
F(v,u,h_v,h_u)=s(v,u)CONTACT(h_v,h_u)
F(v,u,hv,hu)=s(v,u)CONTACT(hv,hu)
最短路径采用q-hop的方式
根据最短路径计算相似度得到s,
s
=
1
d
s
p
q
(
v
,
u
)
+
1
s=\frac{1}{d_{sp}^q(v, u)+1}
s=dspq(v,u)+11
聚合函数
A
G
G
M
AGG_M
AGGM和
A
G
G
S
AGG_S
AGGS:可以采用最大、均值、最小、求和的方式进行聚合,均值聚合效果最好