CoT: 思路链提示促进大语言模型的多步推理

总览

题目: Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
机构：Google Brain, NeurIPS 2022
论文: https://arxiv.org/pdf/2201.11903.pdf
任务: 设计CoT prompting，促进大模型推理能力（特别是多步推理），更具体地，它隶属于一种离散提示学习，即在大模型下的上下文学习（即不进行训练，将例子添加到当前样本输入的前面，让模型一次输入这些文本进行输出完成任务）
特点: 思维链路的开山之作
前置相关工作：GPT，PaLM，Language models are few-shot learners

摘要

我们探索如何生成一条思想链（一系列中间推理步骤）来显著提高大语言模型执行复杂推理的能力。特别是，我们展示了这种推理能力如何通过一种称为思维链提示（chain-of- thought prompting）的简单方法在足够大的语言模型中自然出现，其中提供了一些思维链演示作为提示的范例。

对三种大语言模型的实验表明，思维链提示可以提高一系列算术、常识和符号推理任务的表现。经验收益可能是惊人的。例如，仅用八个思维链示例来提示 PaLM 540B，即可在数学解题的 GSM8K 基准上达到SOTA，甚至超过带有验证器的微调 GPT-3。