[利用Zep Cloud Memory提升AI助手的记忆力与理解能力]

ahdfwcevnhrtds

于 2024-10-08 15:25:42 发布

阅读量151

点赞数 2

文章标签：人工智能 python

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/142760945

版权

利用Zep Cloud Memory提升AI助手的记忆力与理解能力

引言

在现代AI助手应用中，记忆功能的实现对于提升用户体验至关重要。Zep Cloud Memory是一项服务，专为AI助手提供长期记忆支持，使其能够回想起过去的对话，从而减少幻觉、延迟和成本。本文将探讨如何使用Zep Cloud Memory，增强你的AI助手的记忆能力，并提供完整的代码示例。

主要内容

1. 安装及初步设置

在开始之前，请确保你的开发环境已正确配置，并安装了相关的Python库。

pip install langchain-community zep-cloud-memory pydantic

2. Zep Cloud Memory的基本使用

Zep实现了对话历史的存储和查询：

添加对话历史：支持自定义会话ID。
运行代理并自动存储消息：实现对话的自动记录和分析。
向量搜索：基于对话历史进行语义搜索。

3. 代码示例

以下是一个完整的示例，用于展示如何在AI助手中集成Zep Cloud Memory。

from uuid import uuid4
from langchain.agents import AgentType, Tool, initialize_agent
from langchain_community.memory.zep_cloud_memory import ZepCloudMemory
from langchain_community.retrievers import ZepCloudRetriever
from langchain_community.utilities import WikipediaAPIWrapper
from langchain_core.messages import AIMessage, HumanMessage
from langchain_openai import OpenAI
import getpass

# 创建唯一的会话ID
session_id = str(uuid4())

# 输入API密钥
openai_key = getpass.getpass(prompt="Enter your OpenAI API key: ")
zep_api_key = getpass.getpass(prompt="Enter your Zep API key: ")

# 配置搜索工具
search = WikipediaAPIWrapper()
tools = [Tool(name="Search", func=search.run, description="Useful for online searches.")]

# 设置Zep Chat History
memory = ZepCloudMemory(
    session_id=session_id,
    api_key=zep_api_key,
    return_messages=True,
    memory_key="chat_history",
)

# 初始化代理
llm = OpenAI(temperature=0, openai_api_key=openai_key)
agent_chain = initialize_agent(
    tools, llm, agent=AgentType.CONVERSATIONAL_REACT_DESCRIPTION, verbose=True, memory=memory,
)

# 添加历史数据
test_history = [
    {"role": "human", "content": "Who was Octavia Butler?"},
    {"role": "ai", "content": "Octavia Butler was an American science fiction author."},
]

for msg in test_history:
    memory.chat_memory.add_message(
        HumanMessage(content=msg["content"]) if msg["role"] == "human" else AIMessage(content=msg["content"])
    )

# 运行代理并添加交互数据
result = agent_chain.invoke(input="What is the relevance of her work?")
print(result)

# 检查Zep记忆
print("Zep Memory Summary:", memory.chat_memory.zep_summary)

4. 向量搜索

使用Zep Retriever进行向量化搜索：

retriever = ZepCloudRetriever(session_id=session_id, api_key=zep_api_key)

search_results = memory.chat_memory.search("famous women sci-fi authors")
for r in search_results:
    if r.score > 0.8:
        print(r.message, r.score)