本文提出KAPING框架，利用知识图谱增强LLM的输入，解决其内部知识不全导致的错误答案问题。无需模型训练，KAPING在多个LLM上提高了知识图谱问答的性能，尤其是在小型LLM中，比零样本基线平均提升了48%。未来研究方向包括改进事实检索和评估方法，以及实体链接技术。
本文是LLM系列的文章，针对《Knowledge-Augmented Language Model Prompting for Zero-Shot Knowledge Graph Question Answering》的翻译。
摘要
大型语言模型（LLM）能够根据预先训练过程中存储在参数中的内部知识，执行零样本封闭式问答任务。然而，这种内化的知识可能是不充分和不正确的，这可能导致LLM产生事实上错误的答案。此外，微调LLM以更新其知识是昂贵的。为此，我们建议在LLM的输入中直接增加知识。具体来说，我们首先根据问题及其相关事实之间的语义相似性，从知识图谱中检索输入问题的相关事实。之后，我们以提示的形式将检索到的事实预先添加到输入问题中，然后将其转发给LLM以生成答案。我们的框架，知识增强语言模型提示（KAPING），不需要模型训练，因此完全是零样本。我们验证了我们的KAPING框架在知识图问答任务中的性能，该任务旨在根据知识图谱上的事实回答用户的问题，在不同大小的多个LLM中，我们的知识图谱平均比相关的零样本基线高出48%。
订阅专栏 解锁全文
83
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
