Spring AI 进阶开发实战

随着 AI 技术和大模型的流行，AI 应用开发成为了时下的热点。很多开发者开始学习 AI 应用开发。对广大 Java 开发人员来说，Spring  AI 是开发 AI 应用最好的选择。作为 Spring 的子项目，Spring AI 在扩展性上做得很好，可以很方便地集成到已有的 Spring 项目中。Spring AI 的发展，类似于现在的 Spring Cloud，会出现越来越多的集成，包括聊天大模型、文本嵌入实现、向量数据库等。如果希望使用 Java 开发大模型应用，Spring AI 是目前最好的选择。

Spring AI 的基本使用方式并不复杂，只需要很简单的代码，就可以与 AI 模型进行交互。但是 Spring AI 中仍然有很多复杂的内容，这也是《Spring AI 进阶开发实战》这门课程的内容。本课程以知识点为单位来组织，一共有7个知识点。对于每个知识点，会有详细的介绍，完整的代码示例，以及代码示例的讲解。

这 7 个知识点依次是消息历史记录，流式输出，输出解析，多模态输入，方法调用，图片生成和可观测性。

---

消息历史记录，在应用端记录用户与大模型，交互的历史消息，这些历史消息，作为用户下一次与大模型交互时的上下文，方便用户就某一个主题，与大模型进行持续的交流。比如下面的例子，第一次的输入是 怎么做西红柿牛腩？第二次的输入是 如果希望吃得清淡一点呢？在使用了消息历史记录之后，第二次的输出，与第一次的输入有关，围绕西红柿炖牛腩这道菜展开。

流式输出，使用 Spring AI 的 StreamingChatClient，以流的方式输出大模型的结果，每生成一些 token，就输出这些 token。这种一边生成，一边输出的方式，可以让用户及时看到输出的内容。这种方式的用户体验更好。

下面是流式输出的演示效果。

输出解析，让大模型输出 JSON 这样的结构化内容，方便应用进行处理。Spring AI 可以把大模型的输出，解析成列表，Map，和任意的对象类型。在下面的示例中，大模型按照给定的 User 类型的格式，生成了测试所需的 mock 数据。

多模态输入，在模型的输入中，包含图片和音频，让模型理解图片和音频的内容。在下面的示例中， 模型理解了输入的图片中的内容。

方法调用，大模型的一项重要的能力，不仅可以解决大模型，处理某些输入时，可能出现的幻觉问题。方法调用也是实现智能体的基础。在示例中，创建了一个简单的加法工具，大模型调用这个方法，完成任务。

图片生成，使用 Stable Diffusion 模型生成图片，集成在 Spring AI 中，创建自定义的 ImageClient 实现。

可观测性，为 Spring AI 应用增加可观测的功能，包括 metrics 和 tracing，收集与大模型交互时，token 的消耗数据，追踪每一次交互的输入和输出内容。这是应用运维必不可少的一部分。在示例中，使用 Micrometer 开放应用的metrics 和tracing 数据，集成 Prometheus， OpenTelemetry 和 Grafana。

购买该课程之后，可以获得全部示例的源代码。该课程已经在抖音和B站上线，直接搜索课程名称即可。点击 阅读原文 获取购买方式。