#今日论文推荐# TAMU最新《图神经网络可解释》综述论文，19页pdf阐述实例级与模型级解释

#今日论文推荐# TAMU最新《图神经网络可解释》综述论文，19页pdf阐述实例级与模型级解释

本文探讨了

• 需要GNN的可解释性
• 解释GNN预测的挑战
• 不同的GNN解释方法
• GNNExplainer的直观解释
• 使用GNNExplainer实现解释节点分类和图分类

如果你不解释预测背后的原因，深度学习算法就像黑匣子，因此不能完全信任。不提供预测背后的原因，会阻止深度学习算法在涉及公平、隐私和跨领域安全的关键应用中使用。
深度学习模型的可解释性有助于

• 增加对模型预测的信任
• 改进模型的透明度，用于与公平、隐私和其他安全挑战相关的关键决策应用
• 在将模型部署之前，可以通过对网络特征的理解来识别和纠正模型所犯的系统模式错误。

深度神经网络的发展彻底改变了机器学习和人工智能领域。深度神经网络在计算机视觉[1]、[2]、自然语言处理[3]、[4]、图数据分析[5]、[6]等领域取得了良好的研究成果。这些事实促使我们开发深度学习方法，用于在跨学科领域的实际应用，如金融、生物学和农业[7]、[8]、[9]。然而，由于大多数深度模型是在没有可解释性的情况下开发的，所以它们被视为黑盒。如果没有对预测背后的底层机制进行推理，深度模型就无法得到完全信任，这就阻止了它们在与公平性、隐私性和安全性有关的关键应用中使用。为了安全可靠地部署深度模型，有必要提供准确的预测和人类可理解的解释，特别是为跨学科领域的用户。这些事实要求发展解释技术来解释深度神经网络。
深度模型的解释技术通常研究深度模型预测背后的潜在关系机制。一些方法被提出来解释图像和文本数据的深度模型。这些方法可以提供与输入相关的解释，例如研究输入特征的重要分数，或对深度模型的一般行为有较高的理解。例如，通过研究梯度或权重[10]，[11]，[18]，我们可以分析输入特征和预测之间的灵敏度。现有的方法[12]，[13]，[19]映射隐藏特征图到输入空间和突出重要的输入特征。此外，通过遮挡不同的输入特征，我们可以观察和监测预测的变化，以识别重要的特征[14]，[15]。与此同时，一些[10]、[16]研究侧重于提供独立于输入的解释，例如研究能够最大化某类预测得分的输入模式。进一步探究隐藏神经元的含义，理解[17]、[22]的整个预测过程。近年来对[23]、[24]、[25]、[26]等方法进行了较为系统的评价和分类。然而，这些研究只关注图像和文本域的解释方法，忽略了深度图模型的可解释性。

论文题目：Explainability in Graph Neural Networks: A Taxonomic Survey
详细解读：https://www.aminer.cn/research_report/630627bf7cb68b460f0af21ehttps://www.aminer.cn/research_report/630627bf7cb68b460f0af21e
AMiner链接：https://www.aminer.cn/?f=cs