Unifying Large Language Models and Knowledge Graphs: A Roadmap

本文依旧是LLM系列的相关文章，LLM与知识图谱结合，针对《Unifying Large Language Models and Knowledge Graphs: A Roadmap》的翻译。

摘要

大型语言模型（LLM），如ChatGPT和GPT4，由于其涌现能力和可推广性，正在自然语言处理和人工智能领域掀起新的浪潮。然而，LLM是黑匣子模型，通常无法捕捉和获取事实知识。相反，知识图谱（KGs），例如维基百科和华普，是明确存储丰富事实知识的结构化知识模型。KGs可以通过为推理和可解释性提供外部知识来增强LLM。同时，KGs很难从本质上构建和进化，这对KGs中现有的生成新事实和表示未知知识的方法提出了挑战。因此，将LLM和KGs统一在一起并同时利用它们的优势是相辅相成的。在本文中，我们提出了LLM和KGs统一的前瞻性路线图。我们的路线图由三个通用框架组成，即：1）KG增强的LLM，它在LLM的预训练和推理阶段纳入了KG，或者是为了增强对LLM所学知识的理解；2） LLM增强的KG，利用LLM执行不同的KG任务，如嵌入、补全、构建、图到文本生成和问答；以及3）协同LLM+KGs，其中LLM和KGs扮演着平等的角色，并以互利的方式工作，以增强LLM和KG，实现由数据和知识驱动的双向推理。我们在路线图中回顾和总结了这三个框架内的现有努力，并确定了它们未来的研究方向。

1 引言

2 背景

2.1 大语言模型（L