大模型相关目录
大模型,包括部署微调prompt/Agent应用开发、知识库增强、数据库增强、知识图谱增强、自然语言处理、多模态等大模型应用开发内容
从0起步,扬帆起航。
- 基于Dify的智能分类方案:大模型结合KNN算法(附代码)
- OpenCompass:大模型测评工具
- 一文读懂多模态大模型基础架构
- 大模型管理平台:one-api使用指南
- 大模型RAG、ROG、RCG概念科普
- RAGOnMedicalKG:大模型结合知识图谱的RAG实现
- DSPy:变革式大模型应用开发
- 最简明的Few-shot Prompt指南
- Semantic Kernel:微软大模型开发框架——LangChain 替代
- 对话大模型Prompt是否需要礼貌点?
- swift与Internvl下的多模态大模型分布式微调指南(附代码和数据)
- 多模态大模型Internvl-1.5-26B微调后部署及测试实录(附代码)
- 多模态大模型Internvl-2-26B的OCR赋能方案(附代码)
- miniconda+xinference的大模型推理部署指南
- Mem0:大模型最强赋能“有记忆的LLM”
前言
早在2023年8月份,着手大模型开发时就想到,大模型的本地应用开发可以设计用户对话的记录,一方面可以基于记录做应用的优化,另一方面用户对话记录本身也是良好的大模型微调、训练数据。
于是Mem0开源了
Mem0有助于更好地了解用户及其偏好,比如他们是谁、他们做什么、他们的位置、编码、写作和其他偏好。
Mem0的目标
是提供一个智能的、自我改进的内存系统,能够根据用户互动存储、回忆和完善信息,使AI交互更加个性化和具有上下文感知能力。此外,项目使AI系统能够维护针对特定用户、特定会话和特定代理的内存
,这有助于在不同平台和设备上提供一致且定制的用户体验。最后,Mem0允许开发者通过一个开发者API轻松地将这种内存功能集成到不同的应用
中,最终实现跨应用程序的个性化AI体验。
核心功能
1️⃣用户、会话和AI代理内存:跨用户会话、交互和 AI 代理保留信息,确保连续性和上下文。
2️⃣自适应个性化:根据用户交互和反馈不断改进个性化。
3️⃣开发人员友好API:提供简单的 API,可无缝集成到各种应用程序中。
4️⃣平台一致性:确保不同平台和设备上的行为和数据一致。
5️⃣托管服务:提供托管解决方案,以便于部署和维护。
体验
安装
pip install mem0ai
初始化
from mem0 import Memory
m = Memory()
输入储存记忆并输出
result = m.add("hello world", user_id="alice", metadata={"category": "hobbies"})
print(result)
[
{
'id': 'm1',
'event': 'add',
'data': 'hello world'
}
]
输出历史记忆
# Get all memories
all_memories = m.get_all()
print(all_memories)
检索记忆
related_memories = m.search(query="What are Alice's hobbies?", user_id="alice")
print(related_memories)
删除记忆
m.delete(memory_id="m1") # Delete a memory
m.delete_all(user_id="alice") # Delete all memories
总结
Mem0是一个轻量级、易使用的大模型赋能项目,能够轻松使得大模型应用具备完备的记忆CURD功能,在dify等大模型应用开发中也能友好灵活地进行嵌入。在项目落地时,面对客户的模型本地记录需求、模型微调数据采集需求都能有比较好的支持。