【AI大模型应用开发】1.1 Prompt Engineering（提示词工程）- 用OpenAI API实战，优化方法论总结

书接上文 【AI大模型应用开发】1.0 Prompt Engineering（提示词工程）- 典型构成、原则与技巧，代码中加入Prompt，我们开始实战。

0. 从最简单的开始

0.1 通用代码封装

修改下我们上篇文章中的代码，将Prompt封装起来

python
复制代码
from openai import OpenAI
# 加载 .env 到环境变量
from dotenv import load_dotenv, find_dotenv
_ = load_dotenv(find_dotenv())

client = OpenAI()

###### 这里封装成函数 #######
def get_openai_chat_completion(messages, temperature, model = "gpt-3.5-turbo-1106"):
    response = client.chat.completions.create(
        model = model,
        messages = messages,
        temperature = temperature,
    )
    return response.choices[0].message.content

0.2 使用 - 从最简单的Prompt开始

cpp
复制代码
if __name__ == "__main__":
    messages = [
        {
            "role": "user",
            "content": "你是谁？",
        }
    ]
    print(get_openai_chat_completion(messages, 0.8))

• 回复（执行3次，3次回复均不同）

0.2.1 temperature参数测试

• 更改temperature值为0，回复（执行3次，3次回复均相同）

temperature可以改变答案生成的随机性，约小，答案越固定。建议不要超过1。

0.2.2 加上System Prompt

前文我们知道prompt有三种角色：

• system：系统指令，最重要，用于初始化GPT行为，以及规定GPT的角色、背景和后续行为模式。system是主提示，可以进行更加详细的设置。
• user: 用户输入的信息。
• assistant: 机器回复，由 API 根据 system 和 user 消息自动生成的。

assistant prompt通常由大模型回复生成，不需要自己设定。下面我们来加上System Prompt。

python
复制代码
SYSTEM_PROMPT = """
你是一个Prompt优化器, 你叫同学小张，用户会给你一个提示，你根据用户给的提示，来将提示优化成更适合大模型的Prompt。
"""

if __name__ == "__main__":
    while True:
        user_input = input("请输入你的提示：")
        
        messages = [
            {
                "role": "system",
                "content": SYSTEM_PROMPT,
            },
            {
                "role": "user",
                "content": user_input,
            }   
        ]
        print(get_openai_chat_completion(messages, 0.5))

上面我们增加了System Prompt，给其指定了任务：帮助用户优化Prompt，并且名字叫【同学小张】。来看下它的回复：

可以看到System已经生效了，它充当了Prompt优化工具。虽然效果欠佳，但是是一个好的开始。下面我们将上篇文章总结的Prompt原则和技巧加进来，逐步迭代优化我们的这个Prompt。

1. 迭代优化Prompt

先把我们总结的Prompt典型构成和原则与技巧放进来：

1.1 提供清晰和具体的指令

1.1.1 使用分隔符指示输入的不同部分

不知道大家有没有发现，前面它回答名字出错了，它应该回答叫【同学小张】，但是它回答的却是【小张】。

• 优化：将名字用分隔符隔出来，例如“”双引号。

python
复制代码
SYSTEM_PROMPT = """
你是一个Prompt优化器, 你叫“同学小张”，用户会给你一个提示，你根据用户给的提示，来将提示优化成更适合大模型的Prompt。
"""

• 看下效果还不错：

为了能更清晰的看出优化前后结果的好坏，下面我换了一个“规划学习大纲”的Prompt，优化空间更大。

• 原始Prompt

python
复制代码
SYSTEM_PROMPT = """
你叫“同学小张”，用户会给你一个提示，你根据用户给的提示，来为用户设计关于此课程的学习大纲。
"""

• 原始结果

1.1.2 让模型充当某个角色

以上的结果虽然看起来像那么回事儿，但是仔细看来，更像是学一门知识的步骤，而不太像教程大纲。下面我们给Prompt加上角色。

python
复制代码
SYSTEM_PROMPT = """
你是一名资深教师，你叫“同学小张”，用户会给你一个提示，你根据用户给的提示，来为用户设计关于此课程的学习大纲。
"""

结果明显更像是一个学习大纲，更成体系了。

1.1.2.1 为什么给大模型定义角色就能得到更好的结果？

有一篇论文研究表明：大模型对 prompt 开头和结尾的内容更敏感。

先定义角色，其实就是把大模型回复的问题域收窄，减少二义性，意思更清晰了。

1.1.3 告诉大模型我是谁 AND 给模型时间思考

如果我们已经学会了Python，不想让大模型给我们规划的大纲中包含这部分，我们可以作如下优化：

• 在System Prompt中给模型时间思考，确保它理解了你想学的东西，这样可以减少幻觉。

python
复制代码
SYSTEM_PROMPT = """
你是一名资深教师，你叫“同学小张”，用户会给你一个提示，你根据用户给的提示，来为用户设计关于此课程的学习大纲。
你必须遵循以下原则：
1. 你有足够的时间思考，确保在得出答案之前，你已经足够理解用户需求中的所有关键概念，并给出关键概念的解释。
"""

• 用户输入中加入“我已经学会了Python语言”，告诉大模型我是谁

python
复制代码
我想学习Prompt，我已经学会了Python语言

结果如下，可以看到大纲中已经没有了Python的基础部分。

1.1.4 输出内容约束

指定输出格式为MarkDown格式，并要求至少是10小节的大纲

python
复制代码
SYSTEM_PROMPT = """
你是一名资深教师，你叫“同学小张”，用户会给你一个提示，你根据用户给的提示，来为用户设计关于此课程的学习大纲。
你必须遵循以下原则：
1. 你有足够的时间思考，确保在得出答案之前，你已经足够理解用户需求中的所有关键概念，并给出关键概念的解释。
2. 输出格式请使用Markdown格式，并保证输出内容清晰易懂。
3. 至少输出10小节的内容
"""

结果如下（没截全，确实是10小节）。

但是每小节内容有点不规范，于是再次优化：

python
复制代码
SYSTEM_PROMPT = """
你是一名资深教师，你叫“同学小张”，用户会给你一个提示，你根据用户给的提示，来为用户设计关于此课程的学习大纲。
你必须遵循以下原则：
1. 你有足够的时间思考，确保在得出答案之前，你已经足够理解用户需求中的所有关键概念，并给出关键概念的解释。
2. 输出格式请使用Markdown格式，并保证输出内容清晰易懂。
3. 至少输出10章的内容，每章至少有5个小节
"""

要求它输出至少10章内容，每章至少5小节，结果如下（越来越像样子了）：

好了，篇幅所限，迭代优化演示就到这里了，Prompt就是这样从最简单的开始，一步一步优化成可以满足自己要求的。还是那句话，一定不要只看网上的教程和吹的很牛的Prompt，一定要下场实操，才能对怎么写出优秀的Prompt有一个深刻的理解。

2. Prompt优化方法论（进阶技巧）

2.1 进阶技巧汇总

2.2 实战举例 - 少样本提示

这里我拿之前我通过Prompt让ChatGPT帮我写代码的例子来看：

这是一个很直观的例子，如果你不告诉它文件里数据的结构，不举个例子告诉它哪些是x坐标，哪些是y坐标，它肯定不会得到正确的结果。

其余的进阶技巧就不一一实战和演示了，没有具体的需求，没碰到具体的事儿，确实不好找例子来演示。等以后遇到了再补上吧。目前先有个大体认识，知道有这么个方法论，以后遇到难题能作为一种解决思路吧。

3. 加一句Prompt，让你的Prompt效果翻倍

本文最后，给大家搜集了几个常用咒语，加上它，大概率让你的Prompt效果翻倍。

1. Let’s think step by step（让我们一步一步思考）- 其实就是上文中的思维链
2. Please provide a detailed explanation（请提供详细解释）
3. Can you break it down into simpler terms?（你能用更简单的术语解释吗？）
4. Please list the pros and cons（请列出优缺点）
5. Can you provide a step-by-step guide?（你能提供一步一步的指导吗？）

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

• 大模型 AI 能干什么？
• 大模型是怎样获得「智能」的？
• 用好 AI 的核心心法
• 大模型应用业务架构
• 大模型应用技术架构
• 代码示例：向 GPT-3.5 灌入新知识
• 提示工程的意义和核心思想
• Prompt 典型构成
• 指令调优方法论
• 思维链和思维树
• Prompt 攻击和防范
• …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

• 为什么要做 RAG
• 搭建一个简单的 ChatPDF
• 检索的基础概念
• 什么是向量表示（Embeddings）
• 向量数据库与向量检索
• 基于向量检索的 RAG
• 搭建 RAG 系统的扩展知识
• 混合检索与 RAG-Fusion 简介
• 向量模型本地部署
• …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

• 为什么要做 RAG
• 什么是模型
• 什么是模型训练
• 求解器 & 损失函数简介
• 小实验2：手写一个简单的神经网络并训练它
• 什么是训练/预训练/微调/轻量化微调
• Transformer结构简介
• 轻量化微调
• 实验数据集的构建
• …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

• 硬件选型
• 带你了解全球大模型
• 使用国产大模型服务
• 搭建 OpenAI 代理
• 热身：基于阿里云 PAI 部署 Stable Diffusion
• 在本地计算机运行大模型
• 大模型的私有化部署
• 基于 vLLM 部署大模型
• 案例：如何优雅地在阿里云私有部署开源大模型
• 部署一套开源 LLM 项目
• 内容安全
• 互联网信息服务算法备案
• …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取==🆓