Langchain的提示词模板

        因为做AI项目的过程中,需要处理各种提示词(prompt),其中有些是固定的文本,有些是会反复修改的。如果是简单的提示词,直接用python里面的字符串format()或者replace()函数进行处理即可。对于复杂的,还是用langchain里面的提示词模板更方便。

        为了方便处理llm的promt,langchain提供了提示词模板。具体文档参见官方文档:https://api.python.langchain.com/en/latest/core_api_reference.html#module-langchain_core.prompts

        常见的类有BasePromptTemplate、PipelinePromptTemplate和PromptTemplate。其中BasePromptTemplate是后面2个类的基类(PromptTemplate的直接父类是StringPromptTemplate,而StringPromptTemplate的直接父类则是BasePromptTemplate)。


BasePromptTemplate中常用的方法有format(),input_variables(),partial(),save()。

PromptTemplate中常用的方法有from_file()、from_template()。

具体使用请参见下面的源码:template.txt文件中的内容如下:

这是一个测试用的模板文件,用于测试模板引擎的功能。
你叫做{ai_name},你是{ai_role},

{instructions}


template.json中的文件内容如下:

{
    "_type": "prompt",
    "input_variables": [
      "ai_name",
      "ai_role",
      "instructions"
    ],
    "template_path": "template.txt"
}


template.py的代码如下:

# coding: utf-8
from langchain_core.prompts.loading import load_prompt
from langchain_core.prompts.pipeline import PipelinePromptTemplate
from langchain_core.prompts.prompt import PromptTemplate

# 第一种情况:直接处理字符串模板
simple_template = "这个是一个最简单的大语言模型的模板,请回答:{question}"
simple_prompt = PromptTemplate.from_template(simple_template)
prompt = simple_prompt.format(question="程序员节是哪一天?")
print(f"^^^^^^^\n{prompt}\n^^^^^^^")
# 会输出如下信息:
"""
^^^^^^^
这个是一个最简单的大语言模型的模板,请回答:程序员节是哪一天?
^^^^^^^
"""

# 第二种情况:读取文件。load_prompt 返回的是 BasePromptTemplate
main_prompt_template = load_prompt("template.json")
# print(main_prompt_template)

partial_variables = {}
partial_variables["instructions"] = "按照给定的思路和上下文,回答问题。"

# 将有值的变量填充到模板中
main_prompt_template = main_prompt_template.partial(**partial_variables)
# print(main_prompt_template)

# 设置模板中的其它变量
prompt = main_prompt_template.format(
        ai_name="胖胖",
        ai_role="智能助手机器人"
    )
print(f"******\n{prompt}\n******")
# 会输出:
"""
******
这是一个测试用的模板文件,用于测试模板引擎的功能。
你叫做胖胖,你是智能助手机器人,

按照给定的思路和上下文,回答问题。
******
"""

# 第三种情况:使用PipelinePromptTemplate,可以将多个模板组合在一起
templates = []
task_template = """{task_description}"""

task_prompt = PromptTemplate.from_template(task_template)
templates.append(("task",task_prompt))
print(f"task:{task_prompt.input_variables}")

resources_template = """{support_resources}"""

resources_prompt = PromptTemplate.from_template(resources_template)
templates.append(("resources", resources_prompt))
print(f"resources:{resources_prompt.input_variables}")

final_template = """你的任务是:{task}
你可以使用的资源包括:{resources}
"""

final_prompt = PromptTemplate.from_template(final_template)
pipeline_prompt = PipelinePromptTemplate(
                final_prompt=final_prompt,
                pipeline_prompts=templates
            )
print(f"pipeline: {pipeline_prompt.input_variables}")

pipeline_prompt = pipeline_prompt.format(
        task_description="8月份的销售额是多少",
        support_resources="1. 你可以查阅本地文件列表。2. 你可以读取本地文件。"
    )

print(f"======\n{pipeline_prompt}\n======")
# 会输出:
"""
======
你的任务是:8月份的销售额是多少
你可以使用的资源包括:1. 你可以查阅本地文件列表。2. 你可以读取本地文件。

======
"""

执行:python template.py

  • 11
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值