- 博客(12)
- 收藏
- 关注
原创 第十二篇:Spring AI 实战 12|Function Calling(工具调用):让 AI 拥有“动手能力”
本文介绍了如何在Spring AI中利用Function Calling机制实现大模型从"只能聊天"到"能执行业务动作"的跨越。作者通过构建"智能订单+库存查询系统"为例,详细展示了如何定义Java工具方法、使用@Tool注解标注功能、配置ChatClient集成工具调用。文章重点讲解了工具调用流程:AI识别用户意图后返回调用请求,本地执行对应Java方法并将结果返回给AI组织回复。特别提醒了Tool Calling与stream模式兼容性问题,必须使用call()方法。最终实现了查询订单和库存的功能,使A
2026-06-14 23:30:33
280
原创 第十一篇:SpringAI 实战 11|Advisor 机制与对话记忆(ChatMemory):让 AI 拥有“记忆力”
本文介绍了如何通过Spring AI实现大模型的多轮对话记忆功能。针对LLM无状态特性,Spring AI提供了ChatMemory(对话记忆存储)和Advisor(自动注入历史机制)两大核心组件。文章以通义千问为例,详细展示了配置流程:1)定义内存级ChatMemory实现;2)构建带记忆能力的ChatClient;3)开发流式对话接口,强调通过conversationId隔离会话记忆;4)提供前端HTML测试页面验证记忆效果。该方案支持20条历史消息的滑动窗口管理,实现了连贯的上下文对话能力。
2026-06-13 22:27:50
340
原创 第十篇:SpringAI 实战 10|全模型流式输出(Streaming)实战:实现打字机效果
通过本章的实战,我们仅用 .stream().content() 这一行核心代码,就打通了从大模型到前端的流式数据链路。对后端而言:响应式编程避免了长文本生成时的线程阻塞,单台服务器即可支撑成千上万个并发流式连接。对前端而言:浏览器原生的 EventSource API 完美契合 SSE 协议,无需引入任何第三方 WebSocket 库。至此,我们的 AI 应用已经具备了“多模型路由”与“丝滑流式输出”两大核心能力。
2026-06-12 14:10:01
496
原创 第九篇:SpringAI 实战 09|多模型共存整合:一套工程隔离调用通义、DeepSeek、OpenAI与Ollama
本文介绍了如何基于Spring AI框架实现多AI模型整合开发。文章提出通过Spring AI的ChatClient抽象层和@Qualifier机制,在一个工程中优雅地集成OpenAI、Ollama、通义千问和DeepSeek等多种大模型。主要内容包括: 环境准备:要求JDK 21+Gradle 8.8+SpringBoot 3.5.14+SpringAI 1.1.7 核心设计:采用统一入口、配置隔离和精准注入三原则 依赖管理:通过BOM锁定Spring AI版本,引入多模型Starter 配置隔离:在ap
2026-06-11 15:11:27
472
原创 第八篇:SpringAI 实战 08|SpringAI 整合 Ollama 本地大模型
本文介绍使用Ollama本地部署开源大模型的离线方案。通过JDK21+Gradle8.8+SpringBoot3.5.14+SpringAI1.1.7环境,实现不依赖网络、数据完全本地的AI对话功能。步骤包括:安装Ollama客户端并拉取模型(如通义千问7B)、配置SpringAI依赖、设置application.yml连接参数、编写统一ChatClient接口。该方案支持云模型/本地模型一键切换,提供常见问题排查指南,适合对数据隐私和离线运行有要求的场景。
2026-06-10 15:09:29
459
原创 第七篇:SpringAI 实战 07|通过SpringAI接入通义千问
本文摘要:本文详细介绍了在SpringBoot 3.3.5环境中接入阿里云通义千问大模型的具体实现方案。通过OpenAI兼容协议方式,开发者可使用原生SpringAI接口无缝对接国内大模型。文章提供完整的环境配置清单(JDK21+Gradle8.8)、依赖配置、yml参数说明,并特别设计了配置校验功能,实时显示加载的API地址和模型参数。核心代码展示了通过ChatClient统一接口实现对话交互,同时解析了底层自动配置原理和常见问题排查方法,帮助开发者快速完成国产大模型集成。
2026-06-09 17:26:41
577
原创 第六篇:SpringAI 入门 06|官方核心概念全解析(Models/Prompt/Embedding/RAG/Tool Calling
本文系统讲解SpringAI框架的11个核心概念:1. 模型分类(文本/图像/音频)及向量嵌入原理 2. 提示词工程与模板动态渲染机制 3. 令牌计算对计费和上下文长度的关键影响 4. 结构化输出实现JSON自动映射 5. 三种业务数据对接方案对比(微调/RAG/工具调用) 6. RAG技术两阶段流程(ETL入库+语义检索) 7. 工具调用实现模型与外部API联动 8. AI响应评估抑制"幻觉"的三大维度 9. 向量数据库在语义检索中的核心作用 10. 思维导图总结各概念间的关联性 掌握
2026-06-08 11:17:50
695
原创 第五篇:SpringAI入门05|核心架构串联解析,组件协作与整体工作流程
《SpringAI架构全景解析》摘要: SpringAI采用四层架构设计:应用接入层(开发者接口)、统一API层(三大AI能力抽象)、能力实现层(厂商适配/高阶功能)和数据落地层(持久化)。典型AI问答流程涵盖请求拦截、RAG检索、上下文组装、模型调用、FunctionCalling联动及结果过滤等环节。核心组件协作体现为:模型与向量库配合实现知识问答,ETL为RAG提供预处理支持,ChatClient与Advisors形成执行链,会话记忆支撑多轮对话。全文通过架构分层与流程串联,揭示SpringAI组件化
2026-06-07 22:41:00
561
原创 第四篇:SpringAI 入门 04|Starter 自动配置、Advisors 切面,RAG + 会话记忆落地实战场景
SpringAI生态适配企业级应用,提供三大核心组件:SpringBootStarter简化配置、ChatClient流式API和Advisors切面增强。重点功能包括RAG检索增强和会话记忆,支持多轮对话和私有知识库问答。典型应用场景涵盖企业内部知识库、智能客服和业务助手,实现文档问答、咨询解答及业务查询。
2026-06-07 08:45:00
289
原创 第三篇:SpringAI 入门 03|20 + 向量库汇总 + FunctionCall、文档 ETL、AI 评测详解
摘要:SpringAI提供企业级RAG知识库核心基建,支持20余款向量数据库统一接入,业务代码零改造即可切换引擎。具备四大高阶AI能力:1)Function Calling实现业务系统智能联动;2)全链路可观测支持AI调用监控;3)开箱即用的文档ETL流水线;4)AI内容评测缓解大模型幻觉问题。该框架显著降低企业构建私有化AI项目的技术门槛,尤其适合需要精准知识检索与业务融合的场景。(148字)
2026-06-06 18:35:40
357
原创 第二篇:SpringAI 入门 02|一套 API 对接 OpenAI/Ollama,对话 / 绘图 / 向量嵌入全解析
本文解析SpringAI框架的核心设计——统一标准化AI API层,该设计实现了多模型无缝切换。SpringAI对三大主流AI能力(Chat对话、Image文生图、Embedding向量嵌入)封装标准接口,支持同步和流式两种调用方式。框架原生适配OpenAI、Azure等主流厂商,覆盖对话补全、文生图等全类型AI服务,特别提供自动化JSON转POJO功能,避免手动解析代码,显著提升开发效率。通过标准接口+扩展机制,既保持统一性又兼容各厂商特色功能。
2026-06-06 08:45:00
309
原创 第一篇:SpringAI 入门 01|框架诞生背景、设计理念,Java 为什么需要 SpringAI
摘要:SpringAI是Spring官方推出的标准化AI开发框架,旨在解决Java生态中AI应用开发的三大痛点:1. 多模型API适配复杂,提供统一抽象接口实现底层无缝切换;2. 向量库对接学习成本高,标准化存储操作规范;3. 缺乏SpringBoot原生支持,通过Starter实现自动化配置。框架设计借鉴Python生态但非简单复刻,采用分层架构思想实现业务代码与基础设施解耦,并内置RAG、会话管理等场景化能力。其核心价值在于让Java开发者无需深入AI底层细节,即可快速构建企业级智能应用,打破生成式AI
2026-06-05 11:10:03
396
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅