▼最近直播超级多,预约保你有收获
—1—
Spring AI 开发框架介绍
Spring AI 借鉴了 LangChain(Python)的灵感,后者支持与 AI 和多种 LLM 集成。目前 Spring AI 提供了多种大模型和向量数据库供您选择。可以登录官网(https://spring.io/projects/spring-ai)查看 Spring AI 的更详细文档。
今天的 Spring AI 项目中会使用到 Vaadin,Vaadin 是一个基于 Java 和 Kotlin 的 Web 应用开发框架。
—2—
开始构建大模型应用项目
第一、需求
开发一款能够汇总股票市场周报的工具。
第二、项目效果
项目效果如下:
第三、架构设计
整体架构设计如下分为3个步骤:
设置 RAG
使用 Vaadin 设计 UI 界面
创建业务流程
步骤一、设置 RAG 检索增强生成
在该项目中,我利用 Apache Tika 来解析位于 /resources 目录中的 PDF 文件。
在大模型应用程序启动过程中,系统会开始读取 PDF 文件,并将数据 Embedding 后存储到向量数据库中。
RAG 将检索增强的前后端进行了分离,如下图所示:
步骤二、使用 Vaadin 的 UI
这是一个简易的消息输入界面,用于接收提示信息(尝试构建一个类似 ChatGPT 的用户界面,但采用的是 Vaadin 框架)。
步骤三、创建业务流程
最后但同样重要的一步是,我们将构建一个服务来与大模型进行通信。这包括添加系统提示词,我们将使用 HashMap 进行值的替换,接着利用 SystemPromptTemplate 生成消息,最后将其发送给大语言模型 (LLM)。
第四、项目集成
首先,我们在本地进行手动测试 Ollama。
spring:
ai:
ollama:
base-url: ${AI_OLLAMA_BASE_URL:<http://localhost:11434>}
chat:
options:
model: llama3:8b
第五、项目完整代码
项目完整开源代码 Github 地址:
https://github.com/qianniucity/financial-weekly
为了帮助同学们彻底掌握 AI 大模型 Agent 智能体、知识库、向量数据库、 RAG、微调私有大模型的应用开发、部署、生产化,今天我会开场直播和同学们深度剖析,请同学们点击以下预约按钮免费预约。
—3—
领取 AI 大模型学习资料
今天给大家搞到的是一份大厂内部都在用的『AI 大模型学习资源』:
▶形式:直播公开课
▶费用:原价299,本号用户0元白嫖
▶内容:大模型原理、Agent、LangChain、Spring AI、RAG、向量数据库、知识库、私有大模型、算力评估...
扫码预约报名
👇『AI 大模型学习资源』👇
堪称资源界的YYDS!
“得此资源,堪比1000G网盘资源”
👇👇👇
本期名额有限
—4—
领取《AI 大模型技术知识图谱》
这份业界首创知识图谱和学习路线,今天免费送了!
第一步:长按扫码以下视频号,你身边需要一个 AI 专家。
第二步:点击"关注按钮",就可关注。
第三步:点击"客服“按钮,回复“知识图谱”即可领取。
—5—
每日精选 AI 大模型知识
END