Automatically Correcting Large Language Models

本文是大模型相关领域的系列文章，针对《Automatically Correcting Large Language Models: Surveying the landscape of diverse self-correction strategies》的翻译。

摘要

大型语言模型（LLM）在一系列NLP任务中表现出了卓越的性能。然而，它们的功效被不受欢迎和不一致的行为所破坏，包括幻觉、不忠实的推理和有毒内容。纠正这些缺陷的一种很有前途的方法是自我纠正，即LLM本身被提示或引导解决其输出中的问题。利用由LLM本身或某些外部系统产生的自动反馈的技术特别令人感兴趣，因为它们是一种很有前途的方法，可以使基于LLM的解决方案更加实用和可部署，只需最少的人工反馈。本文对这类新兴技术进行了全面的综述。我们利用这些策略对最近的一系列工作进行了分析和分类，包括训练时间、生成时间和事后纠正。我们还总结了这一战略的主要应用，最后讨论了未来的方向和挑战。

1 引言

2 自动反馈校正LLM的分类

2.1

2.2

2.3

2.4

2.5