RelEx

RelEx结合代理和扰动的思想，研究节点分类模型的可解释性。

• 论文标题：RelEx: A Model-Agnostic Relational Model Explainer
• 论文地址：https://arxiv.org/pdf/2006.00305.pdf

实验

用GNNS作为黑盒模型的合成关系数据集的实验

我们构造了两种节点分类数据集：i)树网格，其中我们使用固定高度的二叉树作为基本结构，然后将多个网格结构连接到树上，通过在网格中的节点(称为网格节点)和树(树节点)之间随机添加噪声链接来连接多个网格结构；ii)树BA，我们再次使用二叉树作为基本结构(树节点)，然后通过以链接的形式随机添加噪声来将多个Barabasi Albert(BA)结构(BA节点)连接到树上。预测问题涉及使用节点的邻域拓扑结构预测每个节点所属的正确类别。

我们分别在两个数据集上训练一个3层的GCN作为黑盒。我们在表1中给出了树网格数据集的定量结果，在表2中给出了树BA数据集的定量结果。由于树网格数据集和树BA数据集都是综合生成的，因此我们知道基本事实正确的原因结构，并用它来计算学习到的关系解释与正确原因的偏差。从AUC-ROC和出轨结果可以看出，Relex Gumbel在这两个指标上都有最好的表现。我们还注意到，显著图无法像其他模型那样执行，因为前者是唯一不是专门为关系模型量身定做的模型。这进一步确定了为传统IID模型设计的解释器不能无缝地用于关系模型，而我们需要专门为关系模型设计的解释器。

用HL-MRFS作为黑盒模型的合成关系数据集的实验

我们构造了一个三级图数据集，树-网格-BA。我们生成多个树、网格和Barabasi Albert图，并在它们之