论文浅尝 | 面向多步推理任务专业化较小语言模型

笔记整理：张沈昱，东南大学硕士，研究方向为自然语言处理

链接：https://github.com/FranxYao/FlanT5-CoT-Specialization

动机

本文的动机是探索如何在多步推理任务中通过大型语言模型提升较小的语言模型的性能。作者认为，大型语言模型模型（如GPT-3.5系列模型）虽然具有强大的建模能力，但是它们通常需要大量的计算资源和时间来训练和部署。相比之下，小规模语言模型虽然容量有限，但它们可以更快地训练和部署，并且在某些任务上有更优异的表现。因此，作者希望通过专业化较小的语言模型来解决多步推理任务，以获得更好的性能。作者提出了一种从大型教师模型中提取思维链（Chain-of-Thought， CoT）路径来微调指令微调模型（Instruction-Tuned Model，本文使用Flan-T5），以将其能力集中在目标任务上的方法。通过这种做法，作者证明了小型语言模型可以在多步推理任务中获得不错的性能提升，且这种性能提升随着模型体量的提升稳定增长。

贡献

本文的主要贡献包括：

1）提出了一种专业化较小语言模型的方法，将其能力集中在目标任务上，从而获得更好的