liujianming的博客

的ChromaDB，使用ChromaApi#withBasicAuth(, )方法设置您的凭据。通过将Spring Boot OpenAI starter添加到您的项目中，与OpenAI的嵌入集成。的ChromaDB，使用ChromaApi#withKeyToken()方法设置您的凭据。要设置ChromaVectorStore，您需要提供您的OpenAI API密钥。启动时，ChromaVectorStore会创建所需的集合，如果尚未提供。部分将Spring AI BOM添加到您的构建文件中。

通过，您可以在本地运行各种大型语言模型（LLMs），并从中生成嵌入。Spring AI通过OllamaEmbeddingClient支持Ollama文本嵌入。嵌入是一个浮点数向量（列表）。两个向量之间的距离衡量它们的相关性。小距离表明高相关性，大距离表明低相关性。

嵌入请求和响应类扩展了模型请求和模型响应，分别用于封装嵌入式模型的输入和输出。嵌入式API反过来被更高层次的组件用来实现特定嵌入模型的嵌入客户端，如OpenAI、Titan、Azure OpenAI、Ollie等。提供了多个嵌入文本的快捷方法，包括嵌入(String text)方法，它接受单个字符串并返回相应的嵌入向量。维度方法是一个方便的工具，供开发人员快速确定嵌入向量的大小，这对于理解嵌入空间和后续处理步骤很重要。所有快捷方法都是围绕调用方法实现的，这是调用嵌入模型的主要方法。

提示是指导AI模型生成特定输出的输入。这些提示的设计和措辞显著影响模型的响应。与Spring AI中的AI模型进行最低级别交互时，处理Spring AI中的提示与在Spring MVC中管理“视图”有些相似。这涉及创建带有占位符的广泛文本，用于动态内容。然后，根据用户请求或应用程序中的其他代码替换这些占位符。另一个类比是包含占位符的SQL语句，用于某些表达式。

如下面的代码片段所示，然后可以为您希望使用的一个或多个spring-ai模块（例如spring-ai-openai）的Starter Dependencies进行无版本声明。和熟悉 JavaScript 生态系统的人的“create-react-app”命令一样，Spring CLI 提供了一个用于创建基于 Spring 的项目spring boot new的命令。Spring AI 清单 （BOM） 声明给定版本的 Spring AI 使用的所有依赖项的推荐版本。

Python 是进入人工智能领域（认为是机器学习或生成人工智能AIGC）的主要武器，Java 和 Spring 仍引领着大多数开发社区， Java 开发人员如何与 LLM大模型 一起工作？这就是 Spring AI 弥补差距的地方。Spring AI在 Spring 应用程序和可以在本地运行的 LLM 之间创建集成，这为所有 Java 开发人员提供了开发人工智能应用程序的能力。在本文中，我们将了解如何使用 Ollama 在本地运行大模型，我们将考虑四个方面。

最终，我了解到JetBrains发布了新版本的IDEA，这些版本提供了对Java 17的全面支持。我尝试在IDEA中调整项目的源代码版本，但发现2020.3版本的IDEA并没有提供直接设置为Java 17的选项。我尝试了各种方法，包括修改配置文件、清理和重建项目，但都没有解决问题，因为我的IDEA版本本身不支持Java 17。起初，我在Mac电脑上使用IntelliJ IDEA 2020.3版本创建了一个项目，打算使用Java 17的新特性。但在运行项目时，我碰到了一个错误提示，说我使用的是Java 8。

Docker中安装chatOllama

通过Docker运行ChromaDB

linux服务器，安装ollama后，电脑进行访问时要修改：

Ollama安装

翻译：ChatOllama 是一个基于 LLMs（大型语言模型）的开源聊天机器人。它支持多种语言模型，包括：- Ollama 服务模型- OpenAIChatOllama 支持多种类型的聊天：- 与 LLMs 自由聊天- 基于知识库与 LLMs 聊天ChatOllama 功能列表：- Ollama 模型管理- 知识库管理- 聊天- 商业 LLMs API 密钥管理- 加入我们的社区。