A SURVEY OF PROMPT ENGINEERING METHODS IN LARGE LANGUAGE MODELS FOR DIFFERENT NLP TASKS

本文是LLM系列文章，针对《A SURVEY OF PROMPT ENGINEERING METHODS IN LARGE LANGUAGE MODELS FOR DIFFERENT NLP TASKS》的翻译。

摘要

大型语言模型 （LLM） 在许多不同的自然语言处理 （NLP） 任务中表现出卓越的性能。提示工程在增加 LLM 的现有功能以在各种 NLP 任务上实现显着的性能提升方面发挥着关键作用。提示工程需要编写称为提示的自然语言指令，以结构化的方式从 LLM 中获取知识。与以前最先进的 （SoTA） 模型不同，提示工程不需要根据给定的 NLP 任务进行广泛的参数重新训练或微调，因此仅根据 LLM 的嵌入式知识进行操作。此外，LLM 爱好者可以通过基本的自然语言对话交换或提示工程智能地提取 LLM 的知识，让越来越多的人即使没有深厚的数学机器学习背景也可以尝试使用 LLM。随着提示工程在过去两年中越来越受欢迎，研究人员提出了许多围绕设计提示的工程技术，以提高从 LLM 中提取信息的准确性。在本文中，我们总结了不同的提示技术，并根据它们用于的不同 NLP 任务将它们组合在一起。我们进一步详细地强调了这些提示策略在属于该 NLP 任务的各种数据集上的性能，讨论了使用的相应 LLM，提出了分类图，并讨论了特定数据集可能的 SoTA。我们总共阅读并展示了 44 篇研究论文的调查，这些论文讨论了 3