【XAI】Multi-objective Explanations of GNN Predictions

问题定义.

• 假设已有一个用于执行图节点类别预测任务的图神经网络 $N$，在图 $G=(V,E)$ 中节点 $v_i$ 对应预测向量为 ${\mathbf{y}}_i$，其第 $j$ 分量是节点 $v_i$ 属于第 $j$ 类的概率。
• 定义包含节点 $v_i$ 的子图 $G_i\subset G$ 是对于预测结果 ${\mathbf{y}}_i$ 的解释Explanation，解释必然存在优劣之分。

解释与优劣.

• 首先，如果仅仅着眼于解释方法得出的子图 $G_i$（基于上述定义，下文中会混用子图与解释），我们期望预测模型 $N$ 在 $G_i$ 上的预测结果 ${\mathbf{y}}_i^{\prime }$ 能够与原预测结果 ${\mathbf{y}}_i$ 尽可能接近。这是对解释 $G_i$ 提出的高模拟性Simulatability要求，个人理解这是充分性的体现，即子图 $G_i$ 中所包含的其余节点 $v_j\ne v_i$ 要切实地对预测 $v_i$ 类别提供所需的信息。
• 衡量分布相似度的量化标准可以用于衡量模拟性，论文中采用如下定义的对称化 $\mathrm{K}\mathrm{L}-\mathrm{D}\mathrm{i}\mathrm{v}\mathrm{e}\mathrm{r}\mathrm{g}\mathrm{e}\mathrm{n}\mathrm{c}\mathrm{e}$ 来量化解释 $G_i$ 的模拟性：$$\nu (G_i)=-[\mathrm{K}\mathrm{L}({\mathbf{y}}_i||{\mathbf{y}}_i^{\prime })+\mathrm{K}\mathrm{L}({\mathbf{y}}_i^{\prime }||{\mathbf{y}}_i)]\text{\hspace{1em}(1)}$$
• 但仅仅追求高模拟性会导致子图势 $|G_i|$ 无限制趋于增加，显然随着 $G_i\to G$，必然有 ${\mathbf{y}}_i^{\prime }\to {\mathbf{y}}_i$，$\nu (G_i)$ 会越来越大。因此除模拟性之外，还需要追求反事实相关性 Counterfactual Relevance.
  
• 反事实相关性是很符合人类认知的，我们分析导致事情结果 $Y$ 因何而出现的常见思路就是假设在这之前某件事 $X$ 没有发生。具体地说，考试挂科作为结果 $Y$ 出现，我们会设想，假如事件上课睡觉 $X$ 没有发生，结果会不会有很大改变呢。因此衡量解释 $G_i$ 反事实相关性的做法是对 $G_i$ 进行扰动得到另一个解释 ${\tilde{G}}_i$，我们希望模型 $N$ 在反事实对照组 $(G_i,{\tilde{G}}_i)$ 上的预测结果 ${\mathbf{y}}_i^{\prime },{\tilde{\mathbf{y}}}_i^{\prime }$ 能够尽量不同，即由于增加的扰动导致预测结果剧变。
• 个人认为可以将其视为必要性的体现，高反事实相关性意味着解释 $G_i$ 中的被移除的节点 $v_j\ne v_i$ 对 $v_i$ 的类别提供重要信息，改变 $v_j$ 节点就会导致预测结果不同。记反事实对照组 $(G_i,{\tilde{G}}_i)$ 之间的差集为 $\Delta$，那么定义反事实相关性如下：$$\mu (G_i,{\tilde{G}}_i)=\frac{\nu (G_i)-\nu ({\tilde{G}}_i)}{|\Delta |}\text{\hspace{1em}(2)}$$
• 分母 $|\Delta |$ 使得上述定义成为单位节点上的变化程度，不难看出，$\nu (G_i),\mu (G_i,{\tilde{G}}_i)$ 的值均是越大意味着解释 $G_i$ 的质量越高。前者意味着 $G_i$ 能够很好地还原预测结果，后者意味着 $G_i$ 中的每个节点都提供了重要信息，不是滥竽充数。
• 下图直观给出模拟性和反事实相关性两个衡量标准，其中出现的 $(4),(5)$ 分别对应上文 $(1),(2)$ 式。
  

---

算法流程.

• 基于模拟性、反事实相关性两种度量标准，定义针对解释的最优化问题如下：给定图神经网络模型 $\theta$ 和图 $G=(V,E)$，对于所有的 $v_i\in V$，希望得到解释（子图）$G_i\subset G$ 和一个反事实解释 ${\tilde{G}}_i\subset G_i$ 来最大化度量标准 $\nu (G_i),\mu (G_i,{\tilde{G}}_i)$，满足 $v_i\in {\tilde{G}}_i\subset G_i,|G_i|\le C$，并且 $G_i$ 为无环图。
• 上述最优问题形式化表述如下：$$\underset{G_i,{\tilde{G}}_i}{\max }\mathbf{F}(G_i,{\tilde{G}}_i)=[\nu (G_i),|\mu (G_i,{\tilde{G}}_i)|]\text{\hspace{1em}(3)}$$$$S.t.v_i\in {\tilde{G}}_i\subset G_i,|G_i|\le C,G_i\mathrm{i}\mathrm{s}\mathrm{a}\mathrm{c}\mathrm{y}\mathrm{c}\mathrm{l}\mathrm{i}\mathrm{c}.$$
• 注意 $(3)$ 式中目标函数的特殊形式 —— 向量函数 $\mathbf{F}$，没有使用诸如 $\nu (G_i)+\lambda \cdot |\mu (G_i,{\tilde{G}}_i)|$ 的求和式。主要原因是我们希望最终搜索到的解释 $G_i$ 同时具有高模拟性和高反事实相关性，而非牺牲 $A$ 去换取 $B.$
• 不难发现，模拟性和反事实相关性是存在矛盾的。$|G_i|$ 越大会使得模拟性越好，但向其中加入相同扰动 $\Delta$ 所造成的影响就会越小。因此最终得到的解释 $G_i$ 必然需要在二者之间进行平衡，抛弃传统的梯度优化算法，文章中设计了如下图所示的优化流程：
  

---

• 第一步基于 $\mathrm{D}\mathrm{F}\mathrm{S}$ 对解释空间 { G i ∣ v i ∈ G i } \{G_i|v_i\in G_i\} {Gi​∣vi​∈Gi​} 进行枚举。鉴于 $L$ 层 $\mathrm{G}\mathrm{N}\mathrm{N}$ 模型不会使用超过 $L$ 跳的邻域节点进行预测，因此 $\mathrm{D}\mathrm{F}\mathrm{S}$ 的搜索范围也由 $L$ 限制。
• 第二步图神经网络模型 $\theta$ 会在 $\mathrm{D}\mathrm{F}\mathrm{S}$ 得到的解释集合 { G i ∣ v i ∈ G i , ∣ G i ∣ ≤ C } \{G_i|v_i\in G_i,|G_i|\leq C\} {Gi​∣vi​∈Gi​,∣Gi​∣≤C} 对节点 $v_i$ 进行预测，并计算相应的度量值 $\nu (G_i),\mu (G_i,{\tilde{G}}_i).$
• 第三步寻找出最优解释 $G_i^{\ast }$，由于模拟性和反事实相关性之间存在的矛盾，难以找到一个解释 $G_i^{\ast }$ 满足下面的最优条件：$$\forall G_i,\nu (G_i)<\nu (G_i^{\ast })\wedge |\mu (G_i,{\tilde{G}}_i)|<|\mu (G_i^{\ast },{\tilde{G}}_i^{\ast })|\text{\hspace{1em}(4.1)}$$因此退而求其次，寻找解释空间中的帕累托最优解释 Pareto Optimal Explanation $G_{i^{\ast }}$，它满足如下的帕累托最优条件：$$!\exists G_i,\nu (G_i)<\nu (G_{i^{\ast }})\wedge |\mu (G_i,{\tilde{G}}_i)|<|\mu (G_{i^{\ast }},{\tilde{G}}_{i^{\ast }})|\text{\hspace{1em}(4.2)}$$ $(4.2)$ 说明不存在一个解释 $G_i$，能够在两个评价标准上都超过帕累托最优解释 $G_{i^{\ast }}.$
• 显然上述定义下的帕累托最优解释并不唯一，单项指标极高的解释也有可能成为帕累托最优解释。因此定义了综合排名准则来确定最终解释。对于解释 $G_i$ 而言，我们记 $r_1$ 为它的模拟性指标排名，$r_2$ 为反事实相关性指标排名，二者相加得到解释 $G_i$ 的综合排名 $R$，最终选择 $R$ 最小的解释。
• 数学上可以证明，综合排名法得出的解释 $G_i$ 一定满足帕累托最优条件。
  

---

健壮性与合理性.

• 健壮性 Robustness要求当一些与 ${\mathbf{y}}_i$ 生成机制无关的扰动被引入时，对 ${\mathbf{y}}_i$ 的解释 $G_i$ 保持不变。
• 合理性 Sanity则是对应地要求，当 ${\mathbf{y}}_i$ 生成机制发生变化时，解释 $G_i$ 也应当变化。

实验.

• 第一部分实验针对人类认知过程进行，由人类对各种算法的解释结果给出评估，用于证明模拟性和反事实相关性两种指标的重要与合理。
• 基于第一部分实验的结果，第二部分实验对各种解释方法进行量化评价。

人类受试实验.

• 心理学研究表明人类思考有两个部分，第一部分自动且迅速地进行，第二部分则需要投入更多的精力。作者则认为一个具有高模拟性的解释能够促使人类快速地使用第一部分 $\mathrm{S}\mathrm{y}\mathrm{s}\mathrm{t}\mathrm{e}\mathrm{m}.1$ 来对解释进行分析，在产生一种认同感后，再通过反事实假设进行更加细致深入的思考。
• 基于上述研究和猜想，作者认为解释的模拟性和反事实相关性能够反映出它被人类认知所接受的程度，从而设计了如下的实验。
• 在 $\mathrm{C}\mathrm{o}\mathrm{r}\mathrm{a}$ 数据集中选取 $5$ 个节点，对每个节点各生成两个解释子图，其中一个具有高模拟性，另一个则相反。至此我们拥有 $10$ 个解释，对每个解释生成两个不同的反事实子图。
• 上述过程的示例如下图：
  
• 上图显示有四个预测结果 —— 原图预测 ${\mathbf{y}}_i$，解释预测 ${\mathbf{y}}_i^{\prime }$ 以及两个反事实解释预测 ${\tilde{\mathbf{y}}}_i^{\prime }.$ 一般认为相较于解释子图，原图难以提供易于为人理解的解释；反事实解释则能够让受试者评估被移除部分 $\Delta$ 是否作为原因影响着预测结果。
• 实验组织者对受试者提出 $4$ 个问题，并将问题答案量化为 $5$ 个等级，等级越高表示程度越高。
• 问题 $1$： 你认为 $G_i$ 的预测结果对于 $G$ 的预测结果还原程度有多好；
• 问题 $2,3$：你认为两个 ${\tilde{G}}_i$ 中被移除部分对于 $G_i$ 的预测结果影响程度有多大；
• 问题 $4$：如果以 $G_i$ 预测结果代替原图 $G$ 的预测结果，你的接受程度有多高。
• 记问题 $1$ 的结果为 $r_a$，它表示受试者对于解释 $G_i$ 的模拟性评估；记问题 $2,3$ 的结果为 $r_b,r_c$，其物理意义显然；记问题 $4$ 的结果为 $r_d$，表示受试者对于解释 $G_i$ 的总体接受程度。$10$ 位受试者对于 $10$ 个解释子图做出了评估，统计制表后的结果如下所示：
  

---

量化评价实验.

• 基于梯度的方法 $\mathrm{G}\mathrm{r}\mathrm{a}\mathrm{d}$ 能够很敏锐地捕捉到反事实相关性，即哪些部分对于预测的影响是最大的，但显然无法很好地还原预测结果。
• $\mathrm{B}\mathrm{a}\mathrm{s}\mathrm{e}\mathrm{l}\mathrm{i}\mathrm{n}\mathrm{e}$ 方法简介如下：
  
• 最后进行了健壮性和合理性检查，方法是对图神经网络 $N$ 的预测过程添加扰动，具体的方法有 —— 为图添加干扰边、扰动网络参数。用杰卡德距离 $\mathrm{J}\mathrm{a}\mathrm{c}\mathrm{c}\mathrm{a}\mathrm{r}\mathrm{d}\mathrm{D}\mathrm{i}\mathrm{s}\mathrm{t}\mathrm{a}\mathrm{n}\mathrm{c}\mathrm{e}$ 衡量扰动前后解释 $G_i^1,G_i^2$ 的差异，实验结果如下：
  

---