Internal Consistency and Self-Feedback in Large Language Models: A Survey

本文是LLM系列文章，针对《Internal Consistency and Self-Feedback in Large Language Models: A Survey》的翻译。

摘要

大型语言模型（LLM）经常表现出推理缺陷或产生幻觉。为了解决这些问题，人们开始发起以“自我”为前缀的研究，例如自我一致性、自我改进和自我完善。他们有一个共同点：LLM需要自我评估和更新。尽管如此，这些努力缺乏统一的总结视角，因为现有的调查主要集中在分类上。在本文中，我们总结了一个理论框架“内部一致性”，为推理缺陷和幻觉提供了解释。内部一致性是指LLM的潜在层、解码层或响应层之间基于采样方法的表达的一致性。然后，我们引入了另一个能够挖掘内部一致性的有效理论框架，称为自我反馈。该框架由两个模块组成：自我评估和自我更新。前者捕获内部一致性信号，而后者利用信号来增强模型的响应或模型本身。该框架已被用于许多研究中。
我们按照任务和工作范围对这些研究进行系统分类；总结相关评价方法和基准；并深入研究“自我反馈真的有用吗？”我们还提出了几个批判性的观点，包括“内部一致性的沙漏演化”、“一致性（几乎）正确性”假设以及“潜在推理与显性推理的悖论”。相关资源开源于https://github.com/IAAR