探索LangChain：如何在链的状态中添加值

tt_jishu

于 2024-10-03 19:06:17 发布

阅读量182

点赞数 1

文章标签： langchain python numpy

本文链接：https://blog.csdn.net/tt_jishu/article/details/142694756

版权

探索LangChain：如何在链的状态中添加值

引言

在现代软件架构中，链式处理是一种常见且强大的模式。LangChain提供了一种灵活的方式来处理链中的状态。在这篇文章中，我们将介绍如何使用LangChain将值添加到链的状态中，并解释其背后的机制。

主要内容

LangChain概述

LangChain是一个强大的工具，允许开发者创建、管理和处理复杂的数据处理链。通过LangChain，可以轻松使用表达式语言和可运行组件（runnables）来构建流畅的数据流。

如何使用RunnablePassthrough.assign()

在LangChain中，RunnablePassthrough.assign()方法允许我们在保留当前状态的同时，向链的状态中添加新的值。这种模式非常适合构建用于后续处理步骤的输入字典。

# 安装LangChain库
%pip install --upgrade --quiet langchain langchain-openai

import os
from getpass import getpass

# 设置API密钥
os.environ["OPENAI_API_KEY"] = getpass()

from langchain_core.runnables import RunnableParallel, RunnablePassthrough

# 定义可运行组件
runnable = RunnableParallel(
    extra=RunnablePassthrough.assign(mult=lambda x: x["num"] * 3),
    modified=lambda x: x["num"] + 1,
)

# 调用组件
result = runnable.invoke({"num": 1})
print(result)

详细解析

输入：{"num": 1}。
RunnableParallel组件并行调用两个子组件。
extra键使用RunnablePassthrough.assign()，保留原始值并添加mult键，计算结果为3。
同时，modified键对输入中的num加1，结果为2。
输出：{'extra': {'num': 1, 'mult': 3}, 'modified': 2}。

流式处理

流式处理支持实时数据传输。以下示例展示了如何使用RunnablePassthrough.assign()在检索链中立即返回源文档。

from langchain_community.vectorstores import FAISS
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables import RunnablePassthrough
from langchain_openai import ChatOpenAI, OpenAIEmbeddings

# 创建向量存储和检索器
vectorstore = FAISS.from_texts(["harrison worked at kensho"], embedding=OpenAIEmbeddings())
retriever = vectorstore.as_retriever()

# 定义模板和模型
template = """Answer the question based only on the following context:
{context}

Question: {question}
"""
prompt = ChatPromptTemplate.from_template(template)
model = ChatOpenAI()

# 创建生成链
generation_chain = prompt | model | StrOutputParser()

# 创建检索链
retrieval_chain = {
    "context": retriever,
    "question": RunnablePassthrough(),
} | RunnablePassthrough.assign(output=generation_chain)

# 流式调用
stream = retrieval_chain.stream("where did harrison work?")

for chunk in stream:
    print(chunk)