GraphInstruct: Empowering Large Language Models with Graph Understanding and Reasoning Capability

本文是LLM系列文章，针对《GraphInstruct: Empowering Large Language Models with Graph Understanding and Reasoning Capability》的翻译。

摘要

评估和增强大型语言模型（LLM）的通用能力一直是一个重要的研究课题。图形是现实世界中常见的数据结构，理解图形数据是提高通用智能的关键部分。为了评估和增强LLM的图理解能力，本文提出了一个名为GraphInstruction的基准，该基准全面包括21个经典的图推理任务，提供了不同的图生成管道和详细的推理步骤。在GraphInstruction的基础上，我们通过高效的指令调优进一步构建了GraphLM，显示出突出的图形理解能力。为了增强具有图推理能力的LLM，我们提出了一种步掩模训练策略，并构建了一个名为GraphLM+的模型。作为增强LLM的图理解和推理能力的开创性努力之一，大量实验已经证明GraphLM和GraphLM+优于其他LLM。我们期待更多的研究人员通过GraphInstruction探索LLM在图形数据挖掘领域的潜力。我们用于生成GraphInstruction的代码公开发布于：https://github.com/CGCL-codes/GraphInstruct.

1 引言

2 相关工作

3 GraphInstruct基准

4 GraphLM：在GraphInstruction上训练大型语言模型