轻松实现LangChain对象的保存与加载：全面指南

akhfuiigabv

于 2024-09-18 10:07:32 发布

阅读量165

点赞数 3

文章标签： langchain java 服务器 python

本文链接：https://blog.csdn.net/akhfuiigabv/article/details/142325919

版权

轻松实现LangChain对象的保存与加载：全面指南

在现代应用中，如何高效地保存和加载对象是开发人员必须面对的关键问题之一。LangChain提供了一套简洁的序列化机制，帮助我们轻松地实现对象的持久化和读取。本文将介绍如何使用LangChain的序列化功能，实现对象的保存和加载。

引言

LangChain提供了一种直观的方式来序列化对象，将API密钥等机密数据分离以增强安全性。本文旨在指导您如何使用LangChain的dumpd、dumps、load和loads函数来处理对象的序列化和反序列化。

主要内容

序列化的优势

安全性：机密数据（如API密钥）被分离，防止敏感信息泄露。
兼容性：序列化和反序列化在不同版本的LangChain之间保持兼容。

支持的对象类型

LangChain中所有继承自Serializable的对象均可进行JSON序列化。主要包括消息对象、文档对象和大多数可运行对象（如聊天模型、检索器和链）。

注意事项

反序列化功能处于beta阶段，未来可能会有更改。
仅对受信任的输入使用反序列化功能，以防止安全风险。

代码示例

以下是一个简单的LLM链对象的序列化和反序列化示例。

from langchain_core.load import dumpd, dumps, load, loads
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

# 创建一个ChatPromptTemplate和ChatOpenAI链条
prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "Translate the following into {language}:"),
        ("user", "{text}"),
    ],
)

llm = ChatOpenAI(model="gpt-3.5-turbo-0125", api_key="llm-api-key")
chain = prompt | llm

# 序列化到JSON字符串
string_representation = dumps(chain, pretty=True)
print(string_representation[:500])

# 序列化到JSON字典
dict_representation = dumpd(chain)
print(type(dict_representation))

# 保存到磁盘
import json
with open("/tmp/chain.json", "w") as fp:
    json.dump(string_representation, fp)

# 从字符串加载对象
chain = loads(string_representation, secrets_map={"OPENAI_API_KEY": "llm-api-key"})

# 从字典加载对象
chain = load(dict_representation, secrets_map={"OPENAI_API_KEY": "llm-api-key"})

# 从磁盘加载对象
with open("/tmp/chain.json", "r") as fp:
    chain = loads(json.load(fp), secrets_map={"OPENAI_API_KEY": "llm-api-key"})

print(chain.last.openai_api_key.get_secret_value())