【LLM大模型】大模型Prompt Engineering提示词工程

最新推荐文章于 2024-09-12 06:20:32 发布

程序员阿宝

最新推荐文章于 2024-09-12 06:20:32 发布

阅读量959

点赞数 28

文章标签： prompt 人工智能 web安全数据库 linux sql 语言模型

本文链接：https://blog.csdn.net/abao6690/article/details/141022225

版权

目录：

1、提示工程简介
2、如何写好提示词
- 2.1 描述清晰
- 2.2 角色扮演
- 2.3 提供示例
- 2.4 复杂任务分解
- 2.5 使用格式符区分语义
- 2.6 情感和物质激励
- 2.7 使用英语
- 2.8 结构化提示词

1、提示工程简介

1.1 什么是Prompt 提示词？

不论是文生图应用，还是 GPT文生文的应用，都是 prompt 输入模型，模型给出结果。所以我们今天谈的所谓 prompt，就是指模型的输入
Prompt： 为模型提供输入，用以引导AI模型其生成特定的输出。

1.2 什么是Prompt Engineering提示工程？

Prompt Engineering： 是一种人工智能（AI）技术，它通过设计和改进 AI 的 prompt 来提高 AI 的表现。
Prompt Engineering 的目标是创建高度有效和可控的 AI 系统，使其能够准确、可靠地执行特定任务。
因为人类的语言从根本上说是不精确的，目前机器还没法很好地理解人类说的话，所以才会出现 PE 这个技术。
另外，受制于目前大语言模型 AI 的实现原理，部分逻辑运算问题，需要额外对 AI 进行提示。
另外，目前的 AI 产品还比较早期，因为各种原因，产品设置了很多限制，如果你想要绕过一些限制，或者更好地发挥 AI 的能力，也需要用到 Prompt Engineering 技术。
如下：左图右图 prompt 基本是一样的，差别只在提示工程这个词是否用中英文表达。我们看到，一词之差，回答质量天壤之别。为了获得理想的模型结果，我们需要调整设计提示词，这也就是所谓的提示工程
所以，总的来说，Prompt Engineering 是一种重要的 AI 技术：
如果你是 AI 产品用户，可以通过这个技术，充分发挥 AI 产品的能力，获得更好的体验，从而提高工作效率。
如果你是产品设计师，或者研发人员，你可以通过它来设计和改进 AI 系统的提示，从而提高 AI 系统的性能和准确性，为用户带来更好的 AI 体验。

1.3 Prompt 再理解

一个广泛的理解误区就是将 prompt 简单理解为自己精心设计的那一小段提示词，而忽略了prompt 的其他来源。
我们用输入法做个类比，第一张图片中的 “春眠” 是我们的输入，“不觉晓” 是模型输出，所以 “春眠” 是 Prompt。
到了第二张图片， “春眠不觉晓” 是模型输入（“不觉晓”是模型前一轮的输出），“处处闻啼鸟” 是模型输出，所以 “春眠不觉晓” 是 Prompt。
prompt 的来源可以是我们的预设 prompt，也可以是用户的输入，甚至模型自己之前的输出也是 prompt。
所以，要用好大模型能力，我们应意识到：“所有会被模型用于预测输出结果的内容，都是 Prompt”。

1.4 为什么提示工程很重要？提示词是调用大模型能力的接口

从模型原理出发去理解 prompt，它无处不在，Prompt 是调用大模型能力的接口，是用好大模型能力的核心，所以非常重要。
在 LLM 应用的开发和性能优化过程中，我们可以看到提示工程贯穿始终。
一切 LLM 应用推荐先从 prompt 工程着手建立原型，作为我们性能优化的基石。
若 prompt 工程无法满足实际需求，再分析性能瓶颈原因，采取进一步策略。比如通过 RAG 构造更好的模型输入，所以 RAG 本质上也是一种 prompt 工程。
如果要使用微调，通过 prompt 工程构造高质量的微调数据更是微调成功的关键。
很多朋友希望做垂直领域大模型，也需要通过 prompt 工程（或结合 RAG ）先获取第一批高质量输入输出数据，然后微调模型。
模型性能提升后，数据质量进一步提升，将更优质的数据用于模型训练，然后更好的模型产出更好的数据，如此构建正向迭代循环（也称数据飞轮），其中每个环节都离不开好的提示工程。

2、如何写好提示词

2.0 六大原则（OpenAI官方）

最为推荐的是阅读 OpenAI 官方的提示工程文档，这里我也总结成了思维导图，一共六大原则，下面还有不少的小点，就不展开细讲了。
只讲一点，给模型“思考” 时间，是大家很容易误解的原则。它不是真的指让模型慢慢思考，给出答案，实际上侧重点在于让模型一步步思考，给出过程，最终得到答案，就像我们做数学题一样，给出计算过程后再给结果，能够提高结果的正确度。
OpenAI 文档：https://platform.openai.com/docs

2.1 描述清晰

那么怎么写好提示词，我们的答案是实践。

第一点，清晰地描述是最重要的，能做到这一点，能够解决 80% 的问题。

上图展示了一个我们与华硕校园的合作案例，当你第一次接触 GPT 的时候，不妨让 GPT 给你写一首诗吧，试着调整格式，调整诗歌体裁，再到提高内容质量，在这个过程中体会到对大模型的掌控感。

2.2 角色扮演

对当前的基于角色的模型而言十分有效，能够明显提高内容质量。在网上铺天盖地的基于角色的提示词被编写出来用于大模型训练以后，又加强了这一技巧的有效性。

2.3 提供示例

提供示例，尤其是在需要复刻文案结构和风格的场景下，多提供几个高质量示例

2.4 复杂任务分解

复杂任务分解。分为人去分解和使用模型分解两个方面。如果有成熟的 sop 或者你有自己的思路，就复用 sop 你自己分解。如果没有，让模型自动分解，给出过程。 CoT 思维链也是一种模型自动分解的方法。

2.5 使用格式符区分语义

使用良好的格式，能大大避免由于语义歧义、冲突的导致的性能问题，markdown格式为我们的推荐格式。
测试：文心一言效果最好

2.6 情感和物质激励

情感和物质激励。情感激励有点类似情感 PUA那一套，物质激励则指给AI 小费这类技巧。一句话，对人的高情商那一套，对 AI 也很有效。示例可以参考前面的提供示例部分的内容。

2.7 使用英语

仅仅是将一个词使用了英文代替，前后的回答就天差地别。

2.8 结构化提示词

相比一般提示词，将提示词这一作文题变为填空题，编写门槛降低的同时，更加清晰和强大

2.9 小结

结合我们的探索和思考，我们认为提示词具有无限可能。

这里借用 Transformer 论文的一个句式， Prompt is All You Need！原因主要为以下三点：

1. 提示工程本质是人机沟通的艺术，只要我们人类自己仍在学习怎么高情商表达交流，人机如何更好的交互就会继续存在。
1. 从调用大模型能力的接口，提示工程转变为调用大模型生态能力的接口。我们现在已经从调用单个大模型能力转为调用多个大模型能力（如 GPT+ DALLE）, 从调用 AI 模型能力转为调用 AI+工具的能力（如 GPT+代码环境），随着未来 Agents 的生态进一步完善，我们可以使用提示词调用以 LLM 为大脑的 Agents 生态。
3、提示工程的局限性，它的天花板，会随着大模型能力的进化，各种工具的接入，如 GPTs 等被 OpenAI 这些大模型公司不断拉高，具备更多更大的可能性。也许始于提示工程、终于提示工程是对大模型应用最好的答案，唯一的局限性在于我们对提示词的理解和实践是否足够深刻。

需要学习 PE 吗？

现在 AI 的发展还比较早期，了解和学习 PE 价值相对比较大，但长远来看可能会被淘汰。这个「长远」可能是 3 年，亦或者 1 年。
从用户的角度看，我认为学习 prompt 可以让你更好地使用 ChatGPT 等产品。
从产品的角度看，对于用户来说，我认为 prompt 会是个短期过度形态，未来肯定会有更友好的交互形式，或者理解能力更强的 AI 产品。

思考

Markdown格式的长文本Prompt提示词并不适用于生产环境，因为消耗了过多的Tokens，这对于成本计算来说无异于是一个很现实的问题。目前我也在研究通过关键词提炼，去大篇幅优化不必要的词汇，达到预期效果，共同去探索Prompt的进阶优化。

如何系统的去学习AI大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

所有资料 ⚡️ ，朋友们如果有需要全套《LLM大模型入门+进阶学习资源包》，扫码获取~

2024最新版CSDN大礼包：《AGI大模型学习资源包》免费分享

请添加图片描述

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。那以下这些PDF籍就是非常不错的学习资源。

在这里插入图片描述

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
  - L1.4.1 知识大模型
  - L1.4.2 生产大模型
  - L1.4.3 模型工程方法论
  - L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
  - L2.1.1 OpenAI API接口
  - L2.1.2 Python接口接入
  - L2.1.3 BOT工具类框架
  - L2.1.4 代码示例
- L2.2 Prompt框架
  - L2.2.1 什么是Prompt
  - L2.2.2 Prompt框架应用现状
  - L2.2.3 基于GPTAS的Prompt框架
  - L2.2.4 Prompt框架与Thought
  - L2.2.5 Prompt框架与提示词
- L2.3 流水线工程
  - L2.3.1 流水线工程的概念
  - L2.3.2 流水线工程的优点
  - L2.3.3 流水线工程的应用
- L2.4 总结与展望

阶段3：AI大模型应用架构实践

目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
内容：
- L3.1 Agent模型框架
  - L3.1.1 Agent模型框架的设计理念
  - L3.1.2 Agent模型框架的核心组件
  - L3.1.3 Agent模型框架的实现细节
- L3.2 MetaGPT
  - L3.2.1 MetaGPT的基本概念
  - L3.2.2 MetaGPT的工作原理
  - L3.2.3 MetaGPT的应用场景
- L3.3 ChatGLM
  - L3.3.1 ChatGLM的特点
  - L3.3.2 ChatGLM的开发环境
  - L3.3.3 ChatGLM的使用示例
- L3.4 LLAMA
  - L3.4.1 LLAMA的特点
  - L3.4.2 LLAMA的开发环境
  - L3.4.3 LLAMA的使用示例
- L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。
内容：
- L4.1 模型私有化部署概述
- L4.2 模型私有化部署的关键技术
- L4.3 模型私有化部署的实施步骤
- L4.4 模型私有化部署的应用场景

学习计划：

阶段1：1-2个月，建立AI大模型的基础知识体系。
阶段2：2-3个月，专注于API应用开发能力的提升。
阶段3：3-4个月，深入实践AI大模型的应用架构和私有化部署。
阶段4：4-5个月，专注于高级模型的应用和部署。

这份完整版的所有 ⚡️ 大模型 LLM 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【`保证100%免费`】

全套《LLM大模型入门+进阶学习资源包》↓↓↓ 获取~