【大模型从入门到精通10】openAI API 提示链的力量1

提示链的力量

核心概念

理解提示链

提示链涉及将复杂任务分解成一系列简单且相互连接的提示，每个提示处理特定的子任务。这种方法与试图一次性解决复杂查询的单一提示方法形成对比。提示链背后的原理类似于通过逐一解决组成部分来处理一个多层面的问题，从而简化整体流程。

用于清晰说明的类比

• 烹饪一顿饭：将一次性烹饪复杂菜肴与分阶段准备进行比较。后一种方法可以最小化错误，并确保每个组成部分都能完美烹制。
• 软件开发：将这一概念与编写模块化代码相比处理意大利面条式的代码进行关联。模块化代码通过明确定义依赖关系和职责简化了调试和维护过程。

实际应用与益处

工作流程管理

通过在每个步骤保持系统的状态，并根据此状态调整后续行动，提示链允许采用更加结构化的方法来解决问题。这种技术特别适用于那些一个子任务的结果决定了下一个步骤的方向的情况，例如，在客户服务互动中，查询被分类之后再获取并呈现具体信息。

成本效率

较长的提示消耗更多的计算资源。通过使用提示链，每次只处理必要的信息，可能减少与语言模型使用相关的运营成本。

错误减少

专注于一次解决一个子任务减少了错误的可能性，并简化了调试过程。这也使得在需要时更容易插入人为干预，进一步增强了工作流的准确性和可靠性。

动态信息加载

提示链促进了在不同阶段选择性地包含相关信息，从而使模型的上下文保持聚焦和可管理。鉴于当前语言模型的上下文限制，这一点尤其有利，这些限制约束了单次交互中可以处理的信息量。

方法学

步骤式方法

• 初始任务分解：将复杂任务分解成较小的、逻辑有序的子任务。
• 状态管理：设计一个系统来跟踪每个子任务的进度和结果，确保各阶段之间的平滑过渡。
• 提示设计：为每个子任务创建聚焦的提示，给模型提供足够的信息以便继续处理，同时避免使其过载。
• 信息检索与处理：实现辅助函数或使用现有工具根据工作流程的要求获取和预处理数据。
• 动态上下文调整：根据先前子任务的结果动态调整模型的上下文，确保信息处理的相关性和效率。

最佳实践

• 最小化复杂度：合理使用提示链，避免对足够简单的任务使用单一提示就能处理的情况使用提示链。
• 确保清晰性：设计每个提示使其尽可能清晰和专注，降低模型误读的风险。
• 管理上下文：外部跟踪上下文并动态更新模型的上下文，防止信息过载。
• 优化效率：构建工作流程以最小化计算成本而不牺牲结果质量。
• 持续测试与完善：定期测试整个链条中的潜在故障，并根据性能完善提示。

示例

设置环境

在深入了解代码之前，确保您的环境已正确设置，安装必要的Python库并加载API密钥。此设置涉及使用dotenv库安全地管理环境变量，以及使用openai库与OpenAI的GPT模型进行交互。

import os
import openai
from dotenv import load_dotenv, find_dotenv

# 从 .env 文件加载环境变量
_ = load_dotenv(find_dotenv())

# 从环境变量设置 OpenAI API 密钥
openai.api_key = os.environ['OPENAI_API_KEY']

从用户查询中提取相关信息

我们工作流程的第一步涉及处理用户查询以提取有关产品和类别的相关信息。这一过程通过结构化的系统消息得到促进，这些消息指导模型响应的格式，确保一致性和准确性。

# 定义一个函数根据用户和系统消息检索模型的完成结果
def retrieve_model_response(message_sequence, model="gpt-3.5-turbo", temperature=0, max_tokens=500):
    response = openai.ChatCompletion.create(
        model=model,
        messages=message_sequence,
        temperature=temperature, 
        max_tokens=max_tokens, 
    )
    return response.choices[0].message["content"]

# 定义任务结构和期望响应格式的系统指令
system_instruction = """
您将收到客户服务查询。查询将以 '####' 进行分隔。
输出一个Python对象列表，每个对象代表查询中提到的产品或类别。
"""

# 示例用户关于特定产品和类别的查询
user_query = "#### 请告诉我有关SmartX ProPhone 和 FotoSnap DSLR 相机的信息，还有你们的电视机 ####"

# 为模型准备消息序列
message_sequence = [  
    {'role':'system', 'content': system_instruction},    
    {'role':'user', 'content': user_query},  
]

# 获取并打印模型的响应
extracted_info = retrieve_model_response(message_sequence)
print(extracted_info)

获取详细产品信息

在从用户查询中提取必要信息之后，下一步涉及获取所识别产品的详细信息。这部分展示了如何构建您的产品数据库并高效地查询它。

# 示例产品数据库
product_database = {
    "TechPro Ultrabook": {
        "name": "TechPro Ultrabook",
        "category": "计算机和笔记本电脑",
        # 其他产品详情...
    },
    # 其他产品...
}

# 根据名称获取产品信息的函数
def get_product_details_by_name(product_name):
    return product_database.get(product_name, None)

# 获取特定类别下的所有产品的函数
def get_products_in_category(category_name):
    return [product for product in product_database.values() if product["category"] == category_name]

# 示例使用
print(get_product_details_by_name("TechPro Ultrabook"))
print(get_products_in_category("计算机和笔记本电脑"))