Spring AI 进阶开发实战

随着 AI 技术和大模型的流行,AI 应用开发成为了时下的热点。很多开发者开始学习 AI 应用开发。对广大 Java 开发人员来说,Spring  AI 是开发 AI 应用最好的选择。作为 Spring 的子项目,Spring AI 在扩展性上做得很好,可以很方便地集成到已有的 Spring 项目中。Spring AI 的发展,类似于现在的 Spring Cloud,会出现越来越多的集成,包括聊天大模型、文本嵌入实现、向量数据库等。如果希望使用 Java 开发大模型应用,Spring AI 是目前最好的选择。

Spring AI 的基本使用方式并不复杂,只需要很简单的代码,就可以与 AI 模型进行交互。但是 Spring AI 中仍然有很多复杂的内容,这也是《Spring AI 进阶开发实战》这门课程的内容。本课程以知识点为单位来组织,一共有7个知识点。对于每个知识点,会有详细的介绍,完整的代码示例,以及代码示例的讲解。

这 7 个知识点依次是消息历史记录,流式输出,输出解析,多模态输入,方法调用,图片生成和可观测性


消息历史记录,在应用端记录用户与大模型,交互的历史消息,这些历史消息,作为用户下一次与大模型交互时的上下文,方便用户就某一个主题,与大模型进行持续的交流。比如下面的例子,第一次的输入是 怎么做西红柿牛腩?第二次的输入是 如果希望吃得清淡一点呢?在使用了消息历史记录之后,第二次的输出,与第一次的输入有关,围绕西红柿炖牛腩这道菜展开。

4d0e1ee72da9d98394fbd9669c7a277a.png

流式输出,使用 Spring AI 的 StreamingChatClient,以流的方式输出大模型的结果,每生成一些 token,就输出这些 token。这种一边生成,一边输出的方式,可以让用户及时看到输出的内容。这种方式的用户体验更好。

下面是流式输出的演示效果。

75b759c1ea3a214fdcfbe202dfa77336.png

输出解析,让大模型输出 JSON 这样的结构化内容,方便应用进行处理。Spring AI 可以把大模型的输出,解析成列表,Map,和任意的对象类型。在下面的示例中,大模型按照给定的 User 类型的格式,生成了测试所需的 mock 数据。

3204e4dd75d125e262394d0c39d97e7a.png

多模态输入,在模型的输入中,包含图片和音频,让模型理解图片和音频的内容。在下面的示例中, 模型理解了输入的图片中的内容。

f8eac7325273178b39c579666e0cf279.png

方法调用,大模型的一项重要的能力,不仅可以解决大模型,处理某些输入时,可能出现的幻觉问题。方法调用也是实现智能体的基础。在示例中,创建了一个简单的加法工具,大模型调用这个方法,完成任务。

a05d2e54e95745b925cd8ad0e61dea28.png

图片生成,使用 Stable Diffusion 模型生成图片,集成在 Spring AI 中,创建自定义的 ImageClient 实现。

4dfa1167855ed3da75cd2f4c3294a338.png

可观测性,为 Spring AI 应用增加可观测的功能,包括 metrics 和 tracing,收集与大模型交互时,token 的消耗数据,追踪每一次交互的输入和输出内容。这是应用运维必不可少的一部分。在示例中,使用 Micrometer 开放应用的metrics 和tracing 数据,集成 Prometheus, OpenTelemetry 和 Grafana。

4e585274b39f5ae7b573e2964777622b.png

购买该课程之后,可以获得全部示例的源代码。该课程已经在抖音和B站上线,直接搜索课程名称即可。点击 阅读原文 获取购买方式。

  • 3
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
基于SpringCloud微服务架构,已对接GPT-3.5、GPT-4.0、百度文心一言、stable diffusion AI绘图、Midjourney绘图等。支持web,Android,IOS,H5多端应用,使用了OpenAI的ChatGPT模型实现了 【探索人工智能的宝藏之地】 无论您是计算机相关专业的在校学生、老师,还是企业界的探索者,这个项目都是为您量身打造的。无论您是初入此领域的小白,还是寻求更高层次进阶的资深人士,这里都有您需要的宝藏。不仅如此,它还可以作为毕设项目、课程设计、作业、甚至项目初期的立项演示。 【人工智能的深度探索】 人工智能——模拟人类智能的技术和理论,使其在计算机上展现出类似人类的思考、判断、决策、学习和交流能力。这不仅是一门技术,更是一种前沿的科学探索。 【实战项目与源码分享】 我们深入探讨了深度学习的基本原理、神经网络的应用、自然语言处理、语言模型、文本分类、信息检索等领域。更有深度学习、机器学习、自然语言处理和计算机视觉的实战项目源码,助您从理论走向实践,如果您已有一定基础,您可以基于这些源码进行修改和扩展,实现更多功能。 【期待与您同行】 我们真诚地邀请您下载并使用这些资源,与我们一起在人工智能的海洋中航行。同时,我们也期待与您的沟通交流,共同学习,共同进步。让我们在这个充满挑战和机遇的领域中共同探索未来!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值