本文是LLM系列文章,针对《Enhancing Temporal Knowledge Graph Forecasting with Large Language Models via Chain-of-History Reasoning》的翻译。
摘要
时间知识图谱(TKG)预测旨在基于给定的历史来预测未来的事实。最新的基于图的模型擅长捕捉TKG中的结构信息,但缺乏语义理解能力。如今,随着LLM的激增,基于LLM的TKG预测模型已经出现。然而,现有的基于LLM的模型存在三个缺点:(1)它只关注一阶历史进行预测,而忽略了高阶历史信息,导致为LLM提供的信息极其有限。(2) LLM在繁重的历史信息负载下难以获得最佳推理性能。(3) 对于TKG预测,LLM单独的时间推理能力是有限的。为了解决前两个挑战,我们提出了历史链(CoH)推理,该推理逐步探索高阶历史,在TKG预测中实现LLM对高阶历史信息的有效利用。为了解决第三个问题,我们将CoH设计为一个pali和plug模块,以提高基于图形的TKG预测模型的性能。在三个数据集和主干上进行的大量实验证明了CoH的有效性。