Survey on Factuality in Large Language Models: Knowledge, Retrieval and Domain-Specificity

本文是LLM系列文章，针对《Survey on Factuality in Large Language Models: Knowledge, Retrieval and Domain-Specificity》的翻译。
@TOC

摘要

这项调查解决了大型语言模型（LLM）中的事实性这一关键问题。随着LLM在不同领域中的应用，其输出的可靠性和准确性变得至关重要。我们将“事实性问题”定义为LLM产生与既定事实不一致内容的可能性。我们首先深入研究了这些不准确的含义，强调了LLM输出中的事实错误带来的潜在后果和挑战。随后，我们分析了LLM存储和处理事实的机制，寻找事实错误的主要原因。然后，我们的讨论过渡到评估LLM真实性的方法，强调关键指标、基准和研究。我们进一步探索了增强LLM真实性的策略，包括针对特定领域量身定制的方法。我们重点介绍了两种主要的LLM配置——独立LLM和利用外部数据的检索增强LLM——我们详细介绍了它们的独特挑战和潜在增强。我们的调查为研究人员提供了一个结构化的指南，旨在加强LLM的事实可靠性。我们一直在维护和更新相关的开源材料https://github.com/wangcunxiang/LLM-Factuality-Survey.

1 引言