上善若泪

RAG，检索增强生成）核心思路就一句话：让大模型在回答问题之前，先去外部知识库里检索相关资料，然后基于这些资料来生成回答。打个比方，大模型就像一个学生参加开卷考试——与其死记硬背所有知识（预训练），不如带着参考书进场，需要的时候翻一翻。RAG就是给大模型配的这本 “参考书”。

让AI自己总结记忆，这个方案的想法很巧妙：不保留原始对话，而是定期让大模型把旧对话“压缩”成一段摘要，只保留关键信息。// 历史摘要// 未压缩的新消息// 触发压缩的token阈值// 大模型客户端// 估算当前token数，超过阈值则触发压缩compress();// 构建待压缩的内容：旧摘要 + 新消息请将以下对话历史压缩成一段简洁的摘要，保留：1. 用户的关键信息（姓名、偏好、身份、已做出的决定）2. 重要的任务状态和上下文3. 任何后续对话可能需要的事实。

Ollama是一个开源的本地大语言模型运行框架，专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计，支持多种操作系统，包括 macOS、Windows、Linux 以及通过Docker容器运行。Ollama的特点在于它不仅仅提供了现成的模型和工具集，还提供了方便的界面和API，使得从文本生成、对话系统到语义分析等任务都能快速实现。与其他 NLP 框架不同，Ollama旨在简化用户的工作流程，Ollama。

是LangChainPython） 的 Java 移植版，遵循其原设计理念，灵活、模块化、非侵入式，是通用性很强的工具包。虽然是的 Java 实现，但并非简单移植，而是融合了 LangChain、Haystack、LlamaIndex 等框架的理念，专为 Java 开发者优化。以LLM为中心，注重模块化和灵活性，提供了统一的 API 来适配多种 LLM 和向量存储，适合需要高度定制化的场景。更灵活，模块化设计让开发者可以自由组合功能，适合构建复杂、定制化的 AI 工作流。

是OpenAI提出的一个用于多模型系统之间共享上下文和状态的协议，主要目标是在不同的AI 模型之间建立统一的上下文语言，以便它们能够更好地协同工作。简单来说，MCP是用来让多个模型在同一个脑子里工作的协议，它建立了共享上下文的通用格式。MCP 就像一个统一的翻译官，让AI只需学一种"语言"就能和所有服务交流。这样开发者不用为每个服务单独开发连接方式，AI也能更容易获取它需要的信息。gRPC通过标准化的通信方式可以实现不同语言开发的服务之间进行通信，那么MCP专门为AI模型设计的翻译官和接口管理器。

Ollama是一个开源的大型语言模型（LLM）平台，旨在让用户能够轻松地在本地运行、管理和与大型语言模型进行交互。​Ollama本地运行：​支持在本地环境中部署和运行大型语言模型，确保数据隐私和安全。​简化部署：​通过简单的安装和配置，即可快速启动模型，降低了技术门槛。​多模型支持：​兼容多种预训练模型，满足不同的应用需求。​硬件友好：​支持纯 CPU 推理，适用于各种硬件环境。​。

在软件开发的世界中，Java一直是企业级应用的主力军。而Spring框架，尤其是Spring Boot，以其生态系统的丰富性，为开发者提供了无与伦比的便利。现在，Spring Boot正迈向一个新的纪元——人工智-能的时代。Spring AI项目的推出，不仅标志着Spring生态的进一步扩展，也为广大Java开发者开启了一个全新的编程领域。Spring AI是从著名的Python。