探索LangChain动态配置：提升AI模型链的灵活性-CSDN博客

本文链接：https://blog.csdn.net/aehrutktrjk/article/details/142321908

引言

在AI模型链中，有时我们需要为用户提供多种选择以实现不同的操作路径。这包括调整参数如温度，甚至在不同模型之间切换。为了简化这一过程，LangChain提供了一套强大的工具，帮助开发者动态配置链中的步骤。本篇文章将深入探讨如何在运行时配置模型链的内部逻辑。

主要内容

可配置字段（Configurable Fields）

通过配置字段，我们可以在运行时调整可运行对象的特定字段。这一功能与.bind方法类似，但允许在运行时为链中的某一步指定参数。

示例：配置聊天模型的温度

from langchain_core.prompts import PromptTemplate
from langchain_core.runnables import ConfigurableField
from langchain_openai import ChatOpenAI

# 初始化模型，并将温度设为可配置字段
model = ChatOpenAI(temperature=0).configurable_fields(
    temperature=ConfigurableField(
        id="llm_temperature",
        name="LLM Temperature",
        description="The temperature of the LLM",
    )
)

# 在运行时调整温度
model.with_config(configurable={"llm_temperature": 0.9}).invoke("pick a random number")

在这个示例中，我们将温度作为可配置字段，并在运行时调整。

可配置替代方案（Configurable Alternatives）

使用可配置替代方案，我们可以在链中用其他步骤替换当前步骤。以下示例展示了在运行时切换聊天模型。

from langchain_anthropic import ChatAnthropic
from langchain_openai import ChatOpenAI

# 初始化Anthropic模型并添加替代选项
llm = ChatAnthropic(
    model="claude-3-haiku-20240307", temperature=0
).configurable_alternatives(
    ConfigurableField(id="llm"),
    default_key="anthropic",
    openai=ChatOpenAI(),
    gpt4=ChatOpenAI(model="gpt-4"),
)

# 从Anthropic切换到OpenAI
llm.with_config(configurable={"llm": "openai"}).invoke({"topic": "bears"})

代码示例

下面是一个完整的代码示例，通过LangChain API动态配置模型：

from langchain_core.prompts import PromptTemplate
from langchain_openai import ChatOpenAI
from langchain_core.runnables import ConfigurableField

# 初始化聊天模型
model = ChatOpenAI(temperature=0).configurable_fields(
    temperature=ConfigurableField(
        id="llm_temperature",
        name="LLM Temperature",
        description="The temperature of the LLM",
    )
)

# 通过配置改变温度设置
result = model.with_config(configurable={"llm_temperature": 0.5}).invoke("pick a random number")
print(result)