Graph-ToolFormer: To Empower LLMs with Graph Reasoning Ability via Prompt Augmented by ChatGPT

本文是LLM系列的文章，针对《Graph-ToolFormer: To Empower LLMs with Graph Reasoning Ability via Prompt Augmented by ChatGPT》的翻译。

摘要

本文旨在开发一个对复杂图形数据具有推理能力的大型语言模型。目前，LLM在各种自然语言学习任务上取得了令人印象深刻的成绩，其扩展也被应用于研究具有多种模式数据的视觉任务。然而，当涉及到图学习任务时，现有的LLM存在非常严重的缺陷，因为它们在执行精确的数学计算、多步骤逻辑推理、对空间和拓扑因素的感知以及处理时间进展方面存在遗传弱点。
为了应对这些挑战，在本文中，我们将研究赋予现有LLM图形推理能力的原理、方法和算法，这将对LLM和图形学习的当前研究产生巨大影响。受最新的ChatGPT和Toolformer模型的启发，我们提出了Graph-Toolformer（面向图形推理的Toolformer）框架，通过ChatGPT增强的提示来教授LLM自己使用外部图形推理API工具。具体来说，在本文中，我们将研究教Graph ToolFormer处理各种图形数据推理任务，包括（1）非常基本的图形数据加载和图形属性推理任务，从简单的图形顺序和大小到图形直径和周长，以及（2）对真实世界图形数据的更高级的推理任务，如书目论文引用网