本位是LLM系列文章,针对《Efficient Prompting Methods for Large Language Models:A Survey》的翻译。
摘要
提示已成为使大型语言模型(LLM)适应特定自然语言处理任务的主流范式。虽然这种方法为LLM的上下文学习打开了大门,但它带来了模型推理的额外计算负担和手动设计提示的人工工作,特别是在使用冗长复杂的提示来指导和控制LLM行为时。因此,LLM领域出现了高效提示方法的显著激增。本文对这些方法进行了全面的概述。从较高的层次上讲,高效的提示方法大致可分为两种:高效计算提示和高效设计提示。前者涉及各种压缩提示的方法,后者采用自动优化提示的技术。我们介绍了激励的基本概念,回顾了高效激励的进展,并强调了未来的研究方向。