神经符号AI，“神经+符号”方式探讨AI未来

神经符号AI是一种融合了神经网络和符号推理的人工智能技术。

神经网络通过学习大量数据来获取模式和规律，而符号推理则侧重于基于逻辑和推理规则进行思考和决策。

神经符号AI的目标是将这两种方法结合起来，以实现更全面、更灵活的智能系统。

在神经符号AI中，神经网络负责处理大规模的感知和学习任务，例如图像识别和自然语言处理。而符号推理则用于高级推理、决策和推断任务，例如逻辑推理和知识表示。通过将神经网络和符号推理相结合，神经符号AI可以同时具备感知能力和逻辑推理能力，从而更好地理解和处理复杂的问题。

神经符号AI作为一个新兴的研究领域，已经吸引了广泛的关注和投入。

在未来，随着进一步的研究和技术突破，神经符号AI将在各个领域展现出更大的应用价值，并对人工智能的发展产生深远的影响。

本文整理了几篇相关论文，让我们一起在学术的海洋中获得最新知识！（更多论文请点击底部链接）

1. From “Where” to “What”: Towards Human-Understandable Explanations through Concept Relevance Propagation

这篇论文探讨了可解释人工智能（XAI）领域，旨在使当今强大但模糊的深度学习模型更加透明。局部 XAI 方法通过归因地图解释单个预测，从而确定重要特征出现的位置（但不提供它们表示的信息），全局解释技术则可视化模型通常学习到的编码概念。然而，这两种方法都只提供了部分见解，并把解释模型推理的重任留给用户。只有少数当代方法旨在结合局部和全局 XAI 的原则，以获得更丰富的解释。但这些方法通常局限于特定的模型架构，或者对训练制度和数据及标签可用性施加额外要求，这使得对任意预训练模型的后处理应用实际上是不可能的。在本文中，我们提出了概念相关性传播（CRP）方法，该方法结合了 XAI 的局部和全局视角，从而允许回答关于单个预测的“在哪里”和“是什么”的问题，而无需施加额外约束。我们还提出了基于其对模型的有用性寻找代表性概念编码实例的相关性最大化原则。我们从而摆脱了通常做法中的激活最大化及其限制。我们在各种设置中展示了我们方法的能力，表明概念相关性传播和相关性最大化导致更易理解的解释，并为了解模型表示和推理提供了深入的洞察力，通过概念图谱、概念组合分析和概念子空间及其在细粒度决策中的作用的数量调查。

链接：https://www.aminer.cn/pub/62a013775aee126c0ff6939c/?f=cs

2. ECLAD: Extracting Concepts with Local Aggregated Descriptors

这篇论文提出了一种名为 ECLAD 的方法，用于从局部聚合描述符中提取概念。在关键系统中，卷积神经网络（CNNs）的鲁棒性和对齐性至关重要。在这种情况下，可解释人工智能领域通过概念提取来生成 CNN 预测过程的高级解释。然而，这些方法无法确定概念在图像中的位置，而且由于缺乏适当的验证程序，对这些方法的公平比较也变得困难。为了解决这些问题，我们提出了一种基于通过 CNN 激活图的逐像素聚合获得的表示的自动概念提取和定位方法。此外，我们还引入了一种基于具有像素级注释其主要成分的合成数据集的概念提取技术验证过程，从而减少了人工干预的需要。在合成和现实世界的数据集上的大量实验证明，我们的方法优于最先进的替代方法。

链接：https://www.aminer.cn/pub/62a2b6925aee126c0f4d6d2a/?f=cs

3. Towards Automatic Concept-based Explanations

这篇论文探讨了迈向自动化的概念解释。随着越来越多的机器学习模型被部署和使用，解释性已成为一个重要的研究话题。大多数当前的解释方法通过特征重要性得分提供解释，这些得分确定了对于每个单独输入重要的特征。然而，如何系统地总结和解释这些样本特征重要性得分本身具有挑战性。在这篇论文中，我们提出了基于概念的解释的原则和需求，它超越了每个样本的特征，识别出整个数据集中适用的高级人类可理解的概念。我们开发了一个新的算法 ACE，用于自动提取视觉概念。我们的系统实验证明，ACE 发现了对神经网络预测具有重要意义、连贯且具有人类意义的概念。

链接：https://www.aminer.cn/pub/5db9292847c8f766461ef188/?f=cs

4. On Completeness-aware Concept-Based Explanations in Deep Neural Networks

这篇论文研究了深度神经网络（DNNs）的基于概念的解释性。首先，定义了完整性的概念，它衡量了特定概念集在解释模型预测行为方面的充足性，假设完整的概念分数是模型预测的充足统计量。接下来，提出了一种概念发现方法，旨在推断完整的概念集，同时鼓励这些概念具有可解释性，以解决现有方法在概念解释方面的局限性。为了定义每个发现概念的重要性分数，我们将博弈论概念应用于集合的汇总，并提出了 ConceptSHAP。通过提出的指标和用户研究，在具有先验已知概念解释的合成数据集以及真实图像和语言数据集上，验证了我们方法在找到既完整解释决策又具有可解释性的概念方面的有效性。

链接：https://www.aminer.cn/pub/652cb1b6c92c9c4aae800418/?f=cs

5. A Peek Into the Reasoning of Neural Networks: Interpreting with Structural Visual Concepts

这篇论文探讨了神经网络推理的原因，提出了一种名为 VRX 的框架来解释分类神经网络，该框架使用直观的结构视觉概念。通过知识蒸馏，VRX 可以模拟神经网络的推理过程，并为最终模型决策提供逻辑性和概念级的解释。通过大量实验，论文证明了 VRX 可以有意义地回答预测的“为什么”和“为什么不”的问题，提供关于推理过程的易于理解的见解。这些见解还有可能为提高神经网络性能提供指导。

链接：https://www.aminer.cn/pub/60911d8591e01105f877fa86/?f=cs

6. Neurosymbolic AI: the 3rd wave

这篇论文讨论了人工智能（AI）和机器学习（ML）的最新进展，这些进展在研究界和工业界都产生了前所未有的影响。然而，一些有影响力的人对 AI 的可信度、安全性、可解释性和责任提出了担忧。许多人认为，需要将坚实的知识表示和推理与深度学习相结合，并寻求健全的可解释性。神经符号计算是一个活跃的研究领域，多年来一直在寻求将神经网络的稳健学习与推理和可解释性相结合，通过为神经模型提供符号表示。在本文中，我们将神经符号 AI 的近期和早期研究与神经符号 AI 系统的最重要成分联系起来。我们关注将神经网络学习与符号知识表示和逻辑推理相结合的原则性研究。最后，这篇综述从神经符号计算、常识推理和因果解释的角度，确定了 AI 研究的下一个十年中具有前景的方向和挑战。

链接：https://www.aminer.cn/pub/5fd3576891e01161cf7396de/?f=cs

7. The Roles of Symbols in Neural-based AI: They are Not What You Think!

这篇论文探讨了符号在基于神经网络的人工智能（AI）中的作用，提出符号首先是一种外部通信工具，智能体之间使用符号可以更有效地传递知识。此外，符号还在智能体内部通过一种自我通信形式，帮助制定、描述和证明子符号模式的神经活动，真正实现思考。符号以及使用它们的我们的语言不仅允许我们向他人和自己解释我们的思考，而且还对学习世界提供了有益的约束。论文从神经科学和认知科学的角度，阐述了人类大脑如何表示符号以及它们所指代的概念，并探讨了当今的人工神经网络如何做到这一点。然后提出了一种新颖的神经符号假设和一种可能的智能体架构，该假设和架构结合了用于学习和推理的符号和概念的子符号表示。该假设和相关的架构暗示，符号对未来智能系统的重要性并非在于它们是思考的基本构建块，而在于它们是构成思考的子符号过程的特征。

链接：https://www.aminer.cn/pub/6449e7ff582c1376bbfc6804/?f=cs

---

如何使用AMiner AI？

使用AMiner AI的方法很简单，打开AMiner首页，从页面顶部导航栏或者右下角便可进入AMiner AI页面。

在AMiner AI页面中，可以选择基于单篇文献进行对话和基于全库（个人文献库）对话，可选择上传本地PDF或者直接在AMiner上检索文献。

点击链接，查看神经符号AI论文合集：https://www.aminer.cn/topic/652cdc0ec92c9c4aae8006e8