使用Zep持久化聊天历史：提升AI助手的记忆力

akhfuiigabv

于 2024-09-15 21:54:20 发布

阅读量130

点赞数 3

文章标签：人工智能 python

本文链接：https://blog.csdn.net/akhfuiigabv/article/details/142289598

版权

引言

在AI助手领域，增强其长久记忆能力对于提升用户体验至关重要。Zep为开发者提供了一种持久化聊天历史的解决方案，有效减少模型的幻觉现象、延迟和成本。本文将介绍如何使用Zep来长期存储并回忆聊天记录，助力AI助手在交互过程中实现更好的个性化响应。

主要内容

什么是Zep？

Zep是一项服务，旨在为AI助手应用提供长久的聊天记忆能力。通过存储过去的对话，Zep可以帮助AI模型在后续对话中更准确地进行上下文关联，降低误解和错误的风险。

如何集成Zep到Langchain中？

Zep集成在Langchain的环境中，可以通过以下几个组件实现：

ZepCloudChatMessageHistory：用于记录聊天历史。
ZepCloudMemory：用于管理和存储这些记录。

此外，结合Langchain的其他工具，如ChatPromptTemplate和RunnableWithMessageHistory，可以实现复杂的对话生成流程。

代码示例

下面是一个完整的代码示例，演示如何使用Zep来持久化聊天历史：

from uuid import uuid4
from langchain_community.chat_message_histories import ZepCloudChatMessageHistory
from langchain_community.memory.zep_cloud_memory import ZepCloudMemory
from langchain_core.messages import AIMessage, HumanMessage
from langchain_openai import ChatOpenAI

# 使用API代理服务提高访问稳定性
session_id = str(uuid4())
zep_api_key = "your_zep_api_key_here"
openai_key = "your_openai_key_here"

# 预加载聊天历史
test_history = [
    {"role": "human", "content": "Who was Octavia Butler?"},
    {"role": "ai", "content": "She was an American science fiction author."},
]

# 初始化Zep内存
zep_memory = ZepCloudMemory(session_id=session_id, api_key=zep_api_key)
for msg in test_history:
    zep_memory.chat_memory.add_message(
        HumanMessage(content=msg["content"])
        if msg["role"] == "human"
        else AIMessage(content=msg["content"])
    )

# 使用Langchain组件生成响应
chain = RunnableWithMessageHistory(...)
response = chain.invoke({"question": "What is her famous work?"}, config={"session_id": session_id})

print(response)