打开AI魔盒:玩转Prompt的两条极简原则

一、引言

大型语言模型(LLM)是通过深度学习技术训练出的,能理解和生成人类语言的机器学习模型。如OpenAI的GPT-3和GPT-4,这些模型能处理各种自然语言处理任务,如翻译、写作、回答问题等。

Prompt则是与LLM交互的关键。它就像是指令,明确告诉模型我们需要什么。一个好的Prompt能让模型生成质量高、相关的回答,从而最大化模型的能力。因此,有效地编写Prompt对于使用LLM至关重要。

这种使用Prompt的技术也被称为Prompt Engineering,它属于自然语言编程的范畴,是人与机器交互的关键沟通技巧。通过Prompt Engineering,我们可以更有效地进行人机对话,从而实现更好的交互效果。

近期,吴恩达教授发布了Prompt教程,在教程中他提出了写出高质量Prompt的两个基本原则:

原则1:写出清晰而具体的指示。

原则2:给模型更多的思考空间。

下面让我们更深入地探讨一下这两个原则。

二、两个基本原则

1. 写出清晰而具体的指示

无论我们给ChatGPT布置何种任务,都需要提供清晰且具体的指示。这是一条通用的原则,因为无论模型处理的是何种问题,明确的指示都能帮助它更好地理解我们的需求,从而产生满足需求的回应。清晰和具体的指示也能减少模型进行不必要的推断,提高回应的准确性。如何写出清晰具体的指示,可以从以下几个维度展开:

  • 输出内容的长度,如:输出3句话,输出内容不超过xx字…

  • 输出内容的风格,如:简洁/详尽、轻松活泼/正式、用xx名人的画风输出…

  • 输出内容的语言,如:用英文/中文输出、内容包含xx关键词…

  • 输出内容的格式,如:①将结果以表格的形式输出,第一列是xx,第二列是xx;②将邮件中的行动以列表的形式输出;③请给出10本关于人工智能的经典书籍,包括:书名、作者、作者的国籍,并用json格式输出,对应的key分别是:title,author,nationality…

  • 任务描述,如:改写一段话、写一封邮件、写一段代码、生成一段文字、总结一段话…

  • 背景信息,如:对AI进行角色设定、处于怎样的情境中、任务具体解决的是什么问题、生成的文字用来做什么…

  • 输入内容说明,如:用分隔符来明确指出输入的不同部分…

  • 对于复杂的任务,可以通过举例来进一步说明。如:对于问答类任务,可以给出少量的问题和答案作为示例,让模型更好地理解问题(Few-shot prompting);举例说明在xx情况下,应该输出xx内容…

在实际应用中,为了适应不同的场景,我们可能需要考虑更多的维度,但是,核心要素始终是明确地表达需求。理解这一点,我们可以更好地编写有效的Prompt。

下面是一个来自斯坦福大学的Prompt示例,他们在使用ChatGPT生成微调任务以训练自己的alpaca模型时,其使用的Prompt便体现出了明确和详细的优点,确保AI模型的输出能够满足自己的需求。

You are asked to come up with a set of 20 diverse task instructions. These task instructions will be given to a GPT model and we will evaluate the GPT model for completing the instructions.【任务+背景】

Here are the requirements:

1)Try not to repeat the verb for each instruction to maximize diversity.【内容其他要求:多样性、语法】

2)The language used for the instruction also should be diverse. For example, you should combine questions with imperative instrucitons.【举例说明】

3)The type of instructions should be diverse. The list should include diverse types of tasks like open-ended generation, classification, editing, etc.【其他要求:多样性 + 举例说明】

4)A GPT language model should be able to complete the instruction. For example, do not ask the assistant to create any visual or audio output. For another example, do not ask the assistant to wake you up at 5pm or set a reminder because it cannot perform any action.【任务 + 举例说明】

5)The instructions should be in English.【输出内容语言】

6)The instructions should be 1 to 2 sentences long. Either an imperative sentence or a question is permitted.【输出内容长度】

7)You should generate an appropriate input to the instruction. The input field should contain a specific example provided for the instruction. It should involve realistic data and should not contain simple placeholders. The input should provide substantial content to make the instruction challenging but should ideally not exceed 100 words.【输出内容的格式】

8)Not all instructions require input. For example, when a instruction asks about some general information, “what is the highest peak in the world”, it is not necssary to provide a specific context. In this case, we simply put “” in the input field.【举例说明】

9)The output should be an appropriate response to the instruction and the input. Make sure the output is less than 100 words.【输出内容的长度】

2. 给模型更多的思考空间

这个原则主要针对那些需要逻辑推理和创新解答的问题。对于这类问题,模型需要有足够的自由度来考虑多种可能的答案,进行比较和选择。在这种情况下,一个好的Prompt应当能够鼓励模型自主思考,而不是仅仅按照既定的路径进行回应。

目前,主要有两种思路来启发模型的思考:

1)COT(思维链:Chain-of-Thought)

2022 年 10 月,Google 发布了一篇论文“ Chain-of-Thought Prompting Elicits Reasoning in Large Language Models ”,在这篇文章中,他们在Prompt中的举例说明部分中,不仅仅给出问题的答案,还给出得到答案的步骤,实验表明这种方法能够产生更可靠的答案。

例如:

在这篇论文发表几周后,东京大学和谷歌于 2022 年 10 月下旬发布了论文“Large Language Models are Zero-Shot Reasoners”,在文章中提出不需要给出具体示例,只需要在原始Prompt后面加一句“Let’s think step by step”就可以得到更高质量的答案。

2)Self-Consistency

谷歌在2023年发表“Self-Consistency Improves Chain of Thought Reasoning in Language Model”论文,该论文的主要思想就是利用少数服从多数原则,对于一个问题生成多个版本的答案,选择最高频的那个作为最终答案。具体的分为三步:①使用思维链(CoT)的方法,生成一个Prompt。②通过调整大模型的输出多样性参数来生成多组答案。③选择答案集合中最一致的答案输出。

除了上述两种方法,近期香港中文大学和华为共同发表文章“Progressive-Hint Prompting Improves Reasoning in Large Language Models”,提出PHP方法。该方向的核心思想是将上一轮模型生成的答案融入到下一轮的Prompt中,直到答案收敛。

例:

除了掌握并熟练运用以上两个原则外,还有两种方法可以帮助大家能够提高Prompt的质量。

1)工具辅助:PromptPerfect.jina.ai,这是一个优化提示词的产品,只需要选择一个大模型(如:ChatGPT,GPT-4,Claude等),输入你的原始Prompt,系统就会返回一个调优过之后的Prompt,并给出两个Prompt对应的大模型的输出结果用于比较。

2)用LLM辅助生成更好的Prompt,这里只需要使用下面的Prompt,然后和LLM进行交互即可。

Prompt:

你是一名Prompt工程师,非常清楚通过哪些问题能让AI提供令人满意的答案。我是向你咨询的客户,我很难表达清楚我的需求,我希望你能一步步通过问题引导我完成我的需求描述,使它变成具体、简洁又详细带有背景的Prompt。

三、调试与迭代

编写一个优秀的Prompt通常需要迭代的过程,不是一蹴而就的。这个过程与机器学习工作的优化流程有类似之处,主要步骤包括:构思、实施、评估结果、错误分析和产生新的构思。下面我将详细解释每一步:

  1. 构思:首先,你需要生成一个想法,也就是你希望通过Prompt实现的目标。

  2. 实施:接着,你将想法转化为具体的Prompt,并使用LLM进行测试。

  3. 评估结果:查看LLM的回应,判断是否满足你的预期。

  4. 错误分析:这是关键的一步。如果结果不符合预期,需要详细分析哪些地方出了问题。对于一些逻辑推理的问题,答案是否正确相对明确。但对于生成性的问题,如编写邮件或广告文案,可能需要更深入的分析。这时,一个有效的方法是让LLM自我评估,指出其生成的答案的不足之处。

  5. 产生新的构思:基于错误分析,生成新的想法,修改并优化Prompt。

在解决问题的过程中,要始终保持对之前提到的两条原则的关注:提供清晰而具体的指示,以及为模型留出更多的思考空间。持续迭代并遵循这些原则,最终将帮助你编写出高效的Prompt。

四、未来发展

随着大型语言模型(LLM)的能力日益增强,对Prompt质量的要求可能会逐步降低。这是因为高级模型可能无需过多的“思维链(COT)”,就能在逻辑推理或问答等任务中提供准确的答案。相比原则二,原则一(清晰明确地表达需求)会更重要一些,只有准确地传达我们的需求,大模型才能提供我们希望的结果。为了进一步简化原则一,一个可能的解决方法是通过类似智能助手的应用来学习用户的表达习惯。这样,大模型就可以更准确地理解用户的需求,达到心灵相通的效果。

五、总结

Prompts不仅仅是一个引导,而是实现人工智能交互的关键元素。优秀的Prompt能够引领ChatGPT为我们提供高质量、精确、富有创造性的输出。因此,熟练使用Prompt,正是充分发挥LLM潜力的关键。

但我们要记住,理论只是第一步,真正的技能掌握源于大量的实践。只有不断尝试,才能发现Prompt的无限可能,才能更好地理解和使用LLM。不论你是要编写文章,还是需要解决具体问题,或者只是想享受与人工智能的对话,都鼓励你尽情探索,实践你的想法,发挥出LLM的巨大潜力。

在AI2.0时代,人工智能不再是遥不可及的科幻概念,而是我们日常生活和工作中的实用工具。学习和应用高质量的Prompt不仅可以帮助我们更好地利用LLM,还能促使深入理解沟通的本质。未来无论是在工作还是在生活中,都将拥有更强大的竞争优势。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

123?spm=1001.2014.3001.5501)这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

在这里插入图片描述

  • 41
    点赞
  • 25
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值