【GNN】dgl 卷积方式 RelGraphConv

本文对 dgl 的卷积方式 RelGraphConv 说明文档进行翻译。

原文链接

译者注： RelGraphConv 关系图卷积方式是在 GraphConv 图卷积方式上的改进，解决了 GraphConv 无法考虑到图中具有不同属性的边的问题，使用 RelGraphConv 可以同时汇聚边信息和结点信息。

RelGraphConv

class dgl.nn.pytorch.conv.RelGraphConv(
	in_feat, 
	out_feat, 
	num_rels,
	regularizer=None, 
	num_bases=None, 
	bias=True, 
	activation=None, 
	self_loop=True, 
	dropout=0.0, 
	layer_norm=False)

关系图卷积层 来自于用图卷积网络对关系数据进行建模。
它可以用以下方式描述。
$$h_i^{(l+1)}=\sigma (\sum _{r\in \mathcal{R}}\sum _{j\in {\mathcal{N}}^r(i)}{ϵ}_{j,i}{W}_r^{(l)}{h}_j^{(l)}+W_0^{(l)}{h}_i^{(l)})$$

${\mathcal{N}}^r(i)$ 代表结点 $i$ 关于关系 $r$ 的邻域集合。$e_{j,i}$ 是归一化系数。$\sigma$ 是激活函数。$W_0$ 是自环权重。
基础正则化通过以下方式分解了$W_r$：
$$W_r^{(l)}=\sum _{b=1}^B{a}_{rb}^{(l)}{V}_b^{(l)}$$
$B$ 代表基的个数，$V_b^{(l)}$ 和系数 $a_{rb}^{(l)}$线性组合。
块对角线分解正则化将$W_r$分解为$B$个块对角线矩阵。我们称$B$为基数。
块状正则化通过以下方式分解了$W_r$：
$$W_r^{(l)}={\oplus }_{b=1}^B{Q}_{rb}^{(l)}$$

其中$B$是基数，$Q_{rb}^{(l)}$是形状为$R^{(d^{(l+1)}B)\ast (d^l/B)}$的块基。

参数：

in_feat (int) – 输入特征大小；即$h_j^{(l)}$的维数。

out_feat (int) – 输出特征大小；即$h_i^{(l+1)}$的维数。

num_rels (int) – 关系的数量。

regularizer (str, optional) –使用哪种权重正则器 "basis "或 “bdd”。
"basis "是basis-decomposition的缩写。
"bdd "是块对角线分解的简称。
默认情况下不使用正则化。

num_bases (int, optional) – 基数的数量。在指定regularizer时需要。默认值：None。

bias (bool, optional) – 如果添加了偏置，则为True。默认情况下。为True。

activation (callable, optional) – 激活函数。默认情况下：None。

self_loop (bool, optional) – True：包括自环信息。默认值：为True。

dropout (float, optional) – Dropout 率. 默认: 0.0

layer_norm (float, optional) – 添加 layer norm. 默认: False

例子

import dgl
import numpy as np
import torch as th
from dgl.nn import RelGraphConv
g = dgl.graph(([0,1,2,3,2,5], [1,2,3,4,0,3]))
feat = th.ones(6, 10)
conv = RelGraphConv(10, 2, 3, regularizer='basis', num_bases=2)
etype = th.tensor([0,1,2,0,1,2])
res = conv(g, feat, etype)
res

tensor([[ 0.3996, -2.3303],
        [-0.4323, -0.1440],
        [ 0.3996, -2.3303],
        [ 2.1046, -2.8654],
        [-0.4323, -0.1440],
        [-0.1309, -1.0000]], grad_fn=<AddBackward0>)

前向计算

参数

g (DGLGraph) – 图.

feat (torch.Tensor) – 节点特征的二维张量。形状: $(|V|,D_{in})$.

etypes (torch.Tensor or list[int]) – 一个边类型的一维整数张量。形状: $(|E|,)$.

norm (torch.Tensor, optional) –边规范值的一维张量。形状: $(|E|,)$.

presorted (bool, optional) – 输入图的边是否已按其类型进行了排序。在预先排序的图上进行前向传播可能会更快。由to_homogeneous()创建的图自动满足该条件。也可以参考reorder_graph()来手动排序边

返回值

新的节点特征。形状: $(|V|,D_{out})$.

返回类型

torch.Tensor