[利用Zep Cloud实现AI记忆：减少幻觉、提高效率的秘诀]

最新推荐文章于 2024-10-01 22:43:37 发布

tt_jishu

最新推荐文章于 2024-10-01 22:43:37 发布

阅读量388

点赞数 4

文章标签：人工智能数据库服务器 python

本文链接：https://blog.csdn.net/tt_jishu/article/details/142428434

版权

引言

在AI发展的今天，长期记忆是提升AI助手体验的关键因素。通过Zep Cloud，开发者可以为AI助手提供回忆以往对话的能力，从而减少幻觉、降低延迟并节省成本。本篇文章将详细介绍如何使用Zep Cloud结合Langchain和OpenAI，实现高效的聊天记忆系统。

主要内容

Zep Cloud简介

Zep Cloud为AI助手应用提供了一个长期记忆服务，可以帮助AI记住过去的对话，优化用户体验。其核心功能包括：

持久化对话历史：即便是久远的对话也能记忆。
自动总结：可以自动总结大量对话，大大减少存储和处理负担。

集成Zep Cloud和Langchain

使用Zep Cloud和Langchain的结合，可以实现复杂的聊天记忆系统。以下是如何配置和使用这两者的步骤。

1. 设置API密钥

确保你已经拥有OpenAI和Zep API的密钥。

import getpass

openai_key = getpass.getpass(prompt="Enter your OpenAI API key: ")
zep_api_key = getpass.getpass(prompt="Enter your Zep API key: ")  # 在 https://help.getzep.com/projects#api-keys 处获取API密钥

2. 初始化Zep Cloud Memory

使用Zep Cloud的API密钥来初始化记忆系统。

from uuid import uuid4
from langchain_community.memory.zep_cloud_memory import ZepCloudMemory

session_id = str(uuid4())  # 生成唯一会话ID

zep_memory = ZepCloudMemory(
    session_id=session_id,
    api_key=zep_api_key,
)

3. 载入初始对话历史

将初始对话消息加载到Zep Memory中。

test_history = [
    {"role": "human", "content": "Who was Octavia Butler?"},
    # 其他对话内容...
]

for msg in test_history:
    zep_memory.chat_memory.add_message(
        HumanMessage(content=msg["content"])
        if msg["role"] == "human"
        else AIMessage(content=msg["content"])
    )

4. 创建消息处理链

使用RunnableWithMessageHistory结合Zep和Langchain来处理对话。

from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_core.output_parsers import StrOutputParser
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_openai import ChatOpenAI

template = """Be helpful and answer the question below using the provided context:"""
answer_prompt = ChatPromptTemplate.from_messages([
    ("system", template),
    MessagesPlaceholder(variable_name="chat_history"),
    ("user", "{question}"),
])

chain = RunnableWithMessageHistory(
    inputs | answer_prompt | ChatOpenAI(openai_api_key=openai_key) | StrOutputParser(),
    lambda s_id: ZepCloudChatMessageHistory(
        session_id=s_id,
        api_key=zep_api_key,
        memory_type="perpetual",
    ),
    input_messages_key="question",
    history_messages_key="chat_history",
)

# 使用API代理服务提高访问稳定性
chain.invoke(
    {
        "question": "What is the book's relevance to the challenges facing contemporary society?"
    },
    config={"configurable": {"session_id": session_id}},
)