利用Zep Cloud为AI助理提供长效记忆：从零到实战

最新推荐文章于 2024-10-08 04:47:25 发布

dfvcbipanjr

最新推荐文章于 2024-10-08 04:47:25 发布

阅读量192

点赞数 2

文章标签：人工智能 microsoft python

本文链接：https://blog.csdn.net/dfvcbipanjr/article/details/142749815

版权

引言

在开发AI助理时，具备长效记忆能力是提升用户交互体验的关键因素。Zep Cloud作为一种长期记忆服务，为AI应用提供了可靠的历史对话存储和检索功能。本篇文章将演示如何利用Zep Cloud构建长效记忆，增强AI对话的个性化和准确性。

主要内容

添加对话历史到Zep记忆库

通过Zep Cloud，一旦对话被存储，AI可以随时回忆过去的交互。首先，我们需要初始化Zep的聊天消息历史类，并添加对话历史。

向量搜索和相似性搜索

Zep Cloud提供了强大的向量搜索功能，可以在对话历史中进行相似性检索。这让AI能够根据询问自动找到相关的历史对话。

使用MMR重新排序和元数据过滤

MMR（最大边际相关性）技术有助于提高搜索结果的多样性。同时，通过元数据过滤，可以精确筛选搜索结果。

代码示例

以下是一个完整的代码示例，展示如何在Zep Cloud中实现上述功能：

import getpass
import time
from uuid import uuid4
from langchain_community.memory.zep_cloud_memory import ZepCloudMemory
from langchain_community.retrievers import ZepCloudRetriever
from langchain_core.messages import AIMessage, HumanMessage

zep_api_key = getpass.getpass()  # 提供Zep API密钥
session_id = str(uuid4())  # 唯一的用户会话标识

zep_memory = ZepCloudMemory(session_id=session_id, api_key=zep_api_key)

test_history = [
    {"role": "human", "role_type": "user", "content": "Who was Octavia Butler?"},
    {"role": "ai", "role_type": "assistant", "content": "Octavia Butler was an American science fiction author."},
    # 更多历史消息...
]

for msg in test_history:
    zep_memory.chat_memory.add_message(
        HumanMessage(content=msg["content"]) if msg["role"] == "human" else AIMessage(content=msg["content"])
    )

time.sleep(10)  # 等待消息嵌入和总结

zep_retriever = ZepCloudRetriever(
    api_key=zep_api_key,
    session_id=session_id,
    top_k=5,
)

await zep_retriever.ainvoke("Who wrote Parable of the Sower?")