探索Zep Cloud在AI助手中的记忆检索能力

最新推荐文章于 2024-09-30 13:49:56 发布

stjklkjhgffxw

最新推荐文章于 2024-09-30 13:49:56 发布

阅读量336

点赞数 3

文章标签：人工智能 python 开发语言

本文链接：https://blog.csdn.net/stjklkjhgffxw/article/details/142419869

版权

引言

随着人工智能助手的普及，如何有效地管理和利用对话历史成为一个重要课题。Zep Cloud作为一种长期记忆服务，为AI应用提供了高效的对话历史检索功能。本篇文章将介绍如何利用Zep Cloud从对话历史中检索信息，帮助AI助手提供个性化的用户体验。

主要内容

添加对话历史到Zep内存存储

确保AI助手能从历史对话中提取信息，首先需要添加对话到Zep的内存存储中。可以通过使用ZepCloudMemory类来实现。

import getpass
from uuid import uuid4
from langchain_community.memory.zep_cloud_memory import ZepCloudMemory
from langchain_core.messages import AIMessage, HumanMessage

# 提供Zep API密钥
zep_api_key = getpass.getpass()

# 唯一标识符用于用户会话
session_id = str(uuid4())

# 初始化Zep内存类
zep_memory = ZepCloudMemory(session_id=session_id, api_key=zep_api_key)

# 添加对话历史
test_history = [
    {"role": "human", "content": "Who was Octavia Butler?"},
    {"role": "ai", "content": "Octavia Estelle Butler (June 22, 1947 – February 24, 2006) was an American science fiction author."},
    # 更多对话...
]

for msg in test_history:
    zep_memory.chat_memory.add_message(
        HumanMessage(content=msg["content"])
        if msg["role"] == "human"
        else AIMessage(content=msg["content"])
    )

使用向量搜索进行历史检索

Zep支持在嵌入后对对话进行向量搜索来快速检索相关信息。

from langchain_community.retrievers import ZepCloudRetriever
import time

# 等待消息被嵌入并总结
time.sleep(10)

# 初始化Zep检索器
zep_retriever = ZepCloudRetriever(
    api_key=zep_api_key,
    session_id=session_id,
    top_k=5,
)

# 异步搜索
await zep_retriever.ainvoke("Who wrote Parable of the Sower?")

使用MMR重新排序结果

通过MMR（最大边际相关性）可以优化结果的多样性。

zep_retriever = ZepCloudRetriever(
    api_key=zep_api_key,
    session_id=session_id,
    top_k=5,
    search_type="mmr",
    mmr_lambda=0.5,
)

await zep_retriever.ainvoke("Who wrote Parable of the Sower?")

使用元数据过滤

Zep支持通过元数据进行结果过滤，提高检索的准确性。

filter = {"where": {"jsonpath": '$[*] ? (@.baz == "qux")'}}

await zep_retriever.ainvoke(
    "Who wrote Parable of the Sower?", config={"metadata": filter}
)

使用摘要进行搜索

Zep还能自动生成对话的摘要，可以使用这些摘要进行检索。

zep_retriever = ZepCloudRetriever(
    api_key=zep_api_key,
    session_id=session_id,
    top_k=3,
    search_scope="summary",
    search_type="mmr",
    mmr_lambda=0.5,
)

await zep_retriever.ainvoke("Who wrote Parable of the Sower?")