CoT是否仍是增强Reasoning能力的必要工具?-CSDN博客

本文链接：https://blog.csdn.net/qq_27590277/article/details/146582798

近年来，推理大语言模型（RLLMs）通过内置的链式思考（CoT）能力，在复杂任务中展现出显著优势。然而，传统LLMs依赖外部CoT提示（如少样本示例）提升性能，但研究人员担心这种策略可能对RLLMs无效甚至有害。本文首次系统探究了零样本CoT（仅添加“逐步思考”指令）和少样本CoT对RLLMs的影响，并提出了关键问题：CoT提示是否仍是增强RLLMs推理能力的必要工具？

论文：Innate Reasoning is Not Enough:In-Context Learning Enhances Reasoning Large Language Models with Less Overthinking
链接：https://arxiv.org/pdf/2503.19602

CoT提示对RLLMs的四大作用：提升性能、控制思考令牌数、调节推理步骤、抑制过度反思

方法与实验

实验覆盖1.5B至32B参数的RLLMs（如DeepSeek-R1系列），并在6个数学推理数据集（GSM8K、MATH、AIME24等）上测试。通过对比直接提示、零样本CoT和少样本CoT，评估以下指标：

准确性：答案正确率
思考令牌数：模型输出中用于推理的token数量
推理步骤：逻辑分解的步骤数
反思频率：如“Wait”“Double-check”等自我修正语句的出现次数

不同模型在多个数据集上的准确性对比

主要发现

性能提升的普遍性：72%的实验场景中，CoT提示显著提升RLLMs准确性，如R1-1.5B在GSM8K任务中零样本CoT提升475.4%。
模型容量与任务复杂度的交互效应：
- 大模型（如32B）在复杂任务（如AIME24）上提升显著（最高333%），而在简单任务（如GSM8K）上增益微弱（0.6%）。
- 小模型（如1.5B）则相反，简单任务提升显著（475%），复杂任务增益有限。
单样本CoT的优越性：与LLMs不同，RLLMs在单示例提示下表现最佳（如R1-32B在AIME24上提升467%），多示例可能引入干扰。
过度反思的抑制：CoT提示可将反思频率降低约90%（如R1-32B在AIME24上从414次/问题降至2.56次）。