《Learning Convolutional Neural Networks for Graphs》论文理解

0.标签函数

标签函数$l:V\to S$，表示对$G$无序节点$V$的一种排序，得到有序的节点序列$S$,排序函数 r : V → { 1 , . . . , ∣ V ∣ } r:V\rightarrow \{1,...,|V |\} r:V→{1,...,∣V∣},表示对无需节点的一种编号方式。且满足：在通过$l$得到的有序节点集合在$S$中，排序$l(v)$在$l(u)$前面时，编号$r(v)<r(u)$。

1.节点序列选择

1）根据选定的图标注函数$l$对图中的节点进行排序，得到有序节点集合$V\_sort$。
2）根据$V\_sort$，以$s$为步长等间隔取出$w$个节点，当节点数量$|V\_sort|$不足以取出$w$个节点时，则创建感受野值为$0$作为填充。得到$w$个节点的序列。
伪代码：Algorithm 1 SELNODESEQ: Select Node Sequence

2.节点邻域

1)对于选出的节点序列中的每一个节点$v$,取它的$1$邻域，如果自身和$1-$邻域的节点数目$|N|\ge k$,则得到$v$的感受野的候选，否则继续取它的$2-$领域等等，直到满足$|N|\ge k$。对所有选定节点进行上述操作。
伪代码：Algorithm 2 NEIGHASSEMB: Neighborhood Assembly

3.图归一化

可以认为节点$v$和它的邻域候选节点构成原图$G$的子图$U$，如果邻域候选节点的数目$|U|>k$,则利用再次图标注函数$l$对子图进行节点排序，在图归一化这个步骤中节点排序都必须满足约束：对于 $\forall u,w\in U$, 当$d(u,v)<d(w,v)$时，满足$r(u)<r(w)$，然后取前$k$个节点作为$v$真正的的邻域，并得到新的新的子图$U^{{}^{\prime }}$，并对新的子图进行节点排序用来形成邻接矩阵$A^l(U^{{}^{\prime }})$；如果邻域候选节点的数目$|U|<k$,则添加未连接的假节点使得$|U|=k$,并对新的子图$U^{{}^{\prime }}$进行节点排序用来形成邻接矩阵$A^l(U^{{}^{\prime }})$。
伪代码：Algorithm 4 NORMALIZEGRAPH: Graph Normalization

4.求解标签函数$l$

现在的问题是怎么得到需要的标签函数$l$，标记时需要满足条件：当且仅当两个图的结构相似时，两个不同图的节点被分配到各自邻接矩阵中的相对位置相似。
可以通过最小化式（1）得到最优解$l$:
$$\hat{l}=argmi{n}_l{E}_G[|d_A(A^l(G),A^l(G^{{}^{\prime }}))-d_G(G,G^{{}^{\prime }})|]\text{\hspace{1em}(1)}$$

但是求解式（1）是$NP-hard$问题，所以通过以下方式进行简化求近似解：

5.提取特征

设$a_n$为顶点特征维度，$a_m$为边特征维度。对于每个输入图G，进行上述1~3的步骤，得到一个$(w,k,a_n)$顶点特征的张量和 $(w;k;k;a_m)$边特征的张量(图中$k=4$)。这些可以被重塑为一个$(w\ast k;a_n)$和$(w\ast k\ast k;a_m)$的张量。注意，$a_n,a_m$是输入通道的数量。现在可以用一维的卷积层，它的步幅和接受域大小是$k$(对顶点的张量)和$k^2$(对边的张量)。

下图为得到的顶点和边的特征张量：

下图为对顶点张量的卷积：

6.论文中伪代码：

#Algorithm 1 SELNODESEQ: Select Node Sequence
def SEL_NODE_SEQ(graph labeling procedure l, graph G = (V,E), stride s, width w, receptive field size k):
    V_sort =rank the vertices of V according to l #这里我认为是所有节点排序后的集合，不是前w个节点。
    i=1,j=1
    while j < w do
        if i<=|V_sort|then
            f = RECEPTIVEFIELD(V_sort[i])
        else
            f = ZERORECEPTIVEFIELD()
        apply f to each input channel
        i = i + s, j = j + 1

#Algorithm 3 RECEPTIVEFIELD: Create Receptive Field
def RECEPTIVEFIELD(vertex v, graph labeling l, receptive field size k):
    N = NEIGHASSEMB(v; k)
    G_norm = NORMALIZEGRAPH(N,v,l,k)
    return G_norm

#Algorithm 2 NEIGHASSEMB: Neighborhood Assembly
def NEIGHASSEMB(vertex v,receptive field size k)
	N = [v]
	L = [v]
	while |N| < k and |L| > 0 do
	    L = Union of all N_1(v_i) for v_i in L
	    S = Union of N and L
	return the set of vertices N

#Algorithm 4 NORMALIZEGRAPH: Graph Normalization
def NORMALIZEGRAPH(subset of vertices U from original graph G, vertex v,graph labeling l, receptive field size k)
    compute ranking r of U using l, subject to any u,w in U : r(u) < r(w) when d(u,v) < d(w,v)
    if |U| > k then
        N = top k vertices in U according to r
        compute ranking r of N using l, subject to any u,w in U : r(u) < r(w) when d(u,v) < d(w,v)
    else if |V| < k then
        N = U and k - |U| dummy nodes
    else
        N = U
    construct the subgraph G[N] for the vertices N
    canonicalize G[N], respecting the prior coloring r
    return G[N]