LLM prompt提示工程调试方法经验技巧汇总

现在接到一个LLM模型任务，第一反应就是能不能通过精调prompt来实现，因为使用prompt不需要训练模型，只需输入指令就可以实现和LLM的交互。按照以往经验，不同的prompt对模型输出影响非常大，如果能构造一个好的prompt，往往可以达到事半功倍的效果。下面总结了目前我经常使用的一些构建prompt的技巧。

1. prompt要素

一个prompt主要有如下一些要素：

指令：想要模型执行特定任务的描述。
上下文：包含外部信息（如知识库）或额外的上下文信息。
输入数据：用户输入的内容或问题。
输出指示：指定输出的类型或格式。可以不指定，因为很多模型其实性能有限，不一定按照你指定的格式输出。

这里给出一篇prompt构造的参考文献：https://github.com/mattnigh/ChatGPT3-Free-Prompt-List
其遵循CRISPE提示框架:

Capacity and Role: What role (or roles) should ChatGPT act as?
Insight: Provides the behind the scenes insight, background, and context to your request.
Statement: What you are asking ChatGPT to do.
Personality: The style, personality, or manner you want ChatGPT to respond in.
Experiment: Asking ChatGPT to provide multiple examples to you.

给个例子：

2. 设计prompt通用技巧

2.1 关于prompt的调试经验

1. 从简单的提示词开始，不断迭代和实验，比如添加上下文，或者将任务拆解
2. 明确指令，一般需要将指令放在开头，并用清晰的分隔符区分（在调试过程发现，LLM对分隔符会有理解能力）
3. 避免不精确，使用3到5句话就应该把任务说清楚
4. 由易到难尝试使用prompt技术，如从zero-shot到few-shot甚至到最后的SFT

2.2 模型设置

目前一般的LLM都提供了和模型参数相关的一些接口，可以控制模型生成的多样性或者最大上下文长度。主要是调整以下的两个参数：

Temperature：范围是0-1，简单来说，temperature越小，模型输出越确定（准确）。temperature越大，返回结果更随机，也就是说这可能会带来更多样化或更具创造性的产出。在实际应用方面，对于质量保障（QA）等任务，我们可以设置更低的 temperature 值，以促使模型基于事实返回更真实和简洁的结果。 对于诗歌生成或其他创造性任务，你可以适当调高 temperature 参数值。

Top_p：使top_p（与 temperature一起称为核采样的技术），可以控制模型返回结果的真实性。如果你需要准确和事实的答案，就把参数值调低。如果你想要更多样化的答案，就把参数值调高一些。

一般建议是改变其中一个参数就行，不用两个都调整。

2.3 prompt技术

2.3.1 Zero shot

零样本prompt，说白了就是想让LLM完成某个任务但是却不给LLM参考的样例，直接让模型生成答案。这种方法往往比较简单，仅仅使用一两句话描述任务和问题即可。

2.3.2 Few shot

这个与Zero shot对应，Few shot 在构建提示词的时候会给模型一些参考的样例。个人认为Few shot是一种非常有效的提示方式，模型可以从你给出的样例中学习到特定的范式或者知识，让模型可以更好地输出你想要的回复。
当然，few shot也有一些局限性：

1. 多数标签的偏见(majority label bias)：few-shot例子中所提供的标签如果分布不平衡，则会严重影响到测试任务。这个非常好理解：是传统的不平衡学习(imbalanced learning)在prompt上的具体体现。
2. 近期偏见(recency bias)：模型倾向于为测试样本输出最近看到的few-shot样本。这个听上去有点像灾难遗忘，即模型更喜欢记住最近输入的样本信息。
3. 公共token偏见(common token bias)：模型倾向于考虑那些出现次数较多的token。这个也比较好理解。因为大模型本质上就是统计模型，当然倾向于出现次数多的那些词。

2.3.3 思维链COT

思维链技术意思是使用特定的步骤设定，引导模型输出和思考。研究表明，使用COT技术能明现提升模型对运算或复杂问题处理的能力。往往会加上一句 let’s think step by step。

一般会结合few shot使用，就是few shot的时候告诉模型，我在解决这一类问题的时候会先这么做，然后这么做，最后这么做，最后模型就会模仿你的思考方式来解决新的问题。[1]

当然你也可以zero shot，加一句魔法词let’s think step by step或其他你能想到的能引导模型分步骤思考和输出的prompt。[2]

2.3.4 自我一致性 self-consistency[3]

说白了就是单一一条思维链COT的结果可能还是有问题的，这里让模型按照思维链的方式多，生成几个结果，然后取多数出现的结果作为最终结果

2.3.5 生成知识提示[4]

简单来说，就是让模型先对问题生成一些相关的知识点，然后将这些知识作为另一个LLM的输入，最终生成答案。

2.3.6 提示学习

这部分内容就更高级了，因为涉及到模型的训练。
参考一篇综述[5]，以LLM是否微调、prompt是否微调为标准，可以将prompt tuning分为以下5个方面:

Promptless fine-tuning: 不使用prompt、直接微调语言模型。
Tuning-free prompting: 无需微调的prompt。
Fixed-LM prompt tuning: 固定LM，微调prompt。这种最为常用。
Fixed-prompt LM tuning: 固定prompt，微调LM。
Prompt+LM fine-tuning: 两部分一起微调

Prefix-tuning[6]

由斯坦福大学的Percy Liang团队提出，其在LLM的输入层中加入可学习的prompt embedding，即在文段开头引入连续的前缀向量，固定住LLM的权重，专门只微调prompt部分参数。

P-tuning[7]

数据集往往是{prompt,input,output}的形式，思想是专门对于输入的prompt部分，将其转换成相应的token embedding去训练优化，最后的embedding通过训练迭代确定的，这相当于在连续空间中去学习一个prompt。

参考文献

[1]Wei, Jason, et al. “Chain of thought prompting elicits reasoning in large language models.” arXiv preprint arXiv:2201.11903 (2022).NeurIPS 2022. 2.

[2]Kojima, Takeshi, et al. “Large language models are zero-shot reasoners.” arXiv preprint arXiv:2205.11916 (2022).NeurIPS 2022.

[3]Wang, Xuezhi, et al. “Self-consistency improves chain of thought reasoning in language models.” arXiv preprint arXiv:2203.11171 (2022). ICLR 2023

[4]Liu, Jiacheng, et al. “Generated knowledge prompting for commonsense reasoning.” arXiv preprint arXiv:2110.08387 (2021). ACL2022

[5]Liu P, Yuan W, Fu J, et al. Pre-train, prompt, and predict: A systematic survey of prompting methods in natural language processing[J]. ACM Computing Surveys, 2023, 55(9): 1-35.

[6]Li X L, Liang P. Prefix-tuning: Optimizing continuous prompts for generation[J]. arXiv preprint arXiv:2101.00190, 2021.

[7]Liu X, Ji K, Fu Y, et al. P-tuning: Prompt tuning can be comparable to fine-tuning across scales and tasks[C]//Proceedings of the 60th Annual Meeting of the Association for Computational Linguistics (Volume 2: Short Papers). 2022: 61-68.