本文是LLM系列文章,针对《Survey on Factuality in Large Language Models: Knowledge, Retrieval and Domain-Specificity》的翻译。
@TOC
摘要
这项调查解决了大型语言模型(LLM)中的事实性这一关键问题。随着LLM在不同领域中的应用,其输出的可靠性和准确性变得至关重要。我们将“事实性问题”定义为LLM产生与既定事实不一致内容的可能性。我们首先深入研究了这些不准确的含义,强调了LLM输出中的事实错误带来的潜在后果和挑战。随后,我们分析了LLM存储和处理事实的机制,寻找事实错误的主要原因。然后,我们的讨论过渡到评估LLM真实性的方法,强调关键指标、基准和研究。我们进一步探索了增强LLM真实性的策略,包括针对特定领域量身定制的方法。我们重点介绍了两种主要的LLM配置——独立LLM和利用外部数据的检索增强LLM——我们详细介绍了它们的独特挑战和潜在增强。我们的调查为研究人员提供了一个结构化的指南,旨在加强LLM的事实可靠性。我们一直在维护和更新相关的开源材料https://github.com/wangcunxiang/LLM-Factuality-Survey.