动态配置LangChain中的运行时参数：提高AI应用的灵活性

最新推荐文章于 2025-01-18 23:47:34 发布

asdfujhgy

最新推荐文章于 2025-01-18 23:47:34 发布

阅读量543

点赞数 16

文章标签：人工智能 langchain python

本文链接：https://blog.csdn.net/asdfujhgy/article/details/144459646

版权

引言

在AI开发中，我们常常需要灵活地调整模型参数，比如修改生成文本的温度参数，或者在不同模型之间切换，以优化性能或满足特定需求。在这篇文章中，我们将探讨如何在LangChain中配置运行时参数，尤其是使用configurable_fields和configurable_alternatives方法。无论您是希望进行实验，还是想将多种选择暴露给最终用户，这些方法都能显著提升您的开发效率。

主要内容

配置可调整字段 (Configurable Fields)

LangChain提供了configurable_fields方法，使我们可以在运行时调整特定的模型参数。例如，我们可以动态地修改聊天模型的温度参数。

import os
from getpass import getpass
from langchain_core.prompts import PromptTemplate
from langchain_core.runnables import ConfigurableField
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = getpass()

model = ChatOpenAI(temperature=0).configurable_fields(
    temperature=ConfigurableField(
        id="llm_temperature",
        name="LLM Temperature",
        description="The temperature of the LLM",
    )
)

# 使用API代理服务提高访问稳定性
model.invoke("pick a random number")

在这里，我们定义了temperature作为一个可配置字段，可以在运行时通过with_config方法设置：

model.with_config(configurable={"llm_temperature": 0.9}).invoke("pick a random number")

配置可替换的选项 (Configurable Alternatives)

configurable_alternatives方法允许我们在链中以其他选项替换步骤。例如，我们可以在不同的聊天模型间切换：

from langchain_anthropic import ChatAnthropic
from langchain_openai import ChatOpenAI
from langchain_core.prompts import PromptTemplate

llm = ChatAnthropic(model="claude-3-haiku-20240307", temperature=0).configurable_alternatives(
    ConfigurableField(id="llm"),
    default_key="anthropic",
    openai=ChatOpenAI(),
    gpt4=ChatOpenAI(model="gpt-4")
)

prompt = PromptTemplate.from_template("Tell me a joke about {topic}")
chain = prompt | llm

# 默认调用Anthropic
chain.invoke({"topic": "bears"})

# 切换到OpenAI
chain.with_config(configurable={"llm": "openai"}).invoke({"topic": "bears"})

代码示例

以下是一个结合使用可配置字段和可替换选项的完整示例：

llm = ChatAnthropic(
    model="claude-3-haiku-20240307", temperature=0
).configurable_alternatives(
    ConfigurableField(id="llm"),
    default_key="anthropic",
    openai=ChatOpenAI(),
    gpt4=ChatOpenAI(model="gpt-4"),
)

prompt = PromptTemplate.from_template(
    "Tell me a joke about {topic}"
).configurable_alternatives(
    ConfigurableField(id="prompt"),
    default_key="joke",
    poem=PromptTemplate.from_template("Write a short poem about {topic}"),
)

chain = prompt | llm

# 配置为写一个关于熊的诗
chain.with_config(configurable={"prompt": "poem", "llm": "openai"}).invoke(
    {"topic": "bears"}
)