spring boot3整合spring AI组件

目录

写在前面

spring ai简介

单独整合al接口

整合Spring AI组件

起步条件

​编辑

进行必要配置

写在最后 


 最近发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。

    点击跳转到学习网站

写在前面

本文介绍了springboot开发后端服务中,AI组件(Spring AI)的整合与使用。坚持看完相信对你有帮助。

同时欢迎订阅springboot系列专栏,持续分享spring boot的使用经验。

spring ai简介

先看官网介绍:

翻译:

Spring AI 是 AI 工程的应用框架。其目标是将 Spring 生态系统设计原则(如可移植性和模块化设计)应用于 AI,并推广使用 POJO 作为 AI 领域应用程序的构建块。

翻译:

特征

跨 AI 提供商的可移植 API 支持,适用于聊天、文本到图像和嵌入模型。支持同步和流 API 选项。还支持下拉以访问特定于模型的功能。

在spring-ai组件没发布前,我们在spring boot中对接各种ai接口,由于接口规范格式的不同,我们通常每种接口都得单独去写代码去对接,最后通过实现策略模式来实现灵活切换ai接口源。这样是比较麻烦的。而spring-ai组件就是帮我们做了类似的封装,使得我们对接多种ai接口变得十分方便。

单独整合al接口

我们先来看spring boot简单整合经典的chatGPT 3.5接口

代码如下:


 
 
  1. import cn.hutool.http.HttpRequest;
  2. import cn.hutool.json.JSONArray;
  3. import cn.hutool.json.JSONObject;
  4. import cn.hutool.json.JSONUtil;
  5. import java.util.ArrayList;
  6. import java.util.HashMap;
  7. import java.util.List;
  8. import java.util.Map;
  9. /**
  10. * @author mijiu
  11. * ClassName:OpenAIAPI.java
  12. * date:2024-05-06 16:49
  13. * Description:
  14. */
  15. public class OpenAIAPI {
  16. /**
  17. * 聊天端点
  18. */
  19. private final static String CHAT_ENDPOINT = "https://api.openai.com/v1/chat/completions"; //官网接口地址
  20. private final static String PROXY_ENDPOINT = "https://www.chatgp.fun/v1/chat/completions"; //国内代理接口
  21. private final static String API_KEY = "Bearer sk-pbatvlgKeYScAS3kD4820bA1CcE741F996E0BaAb205421D1";
  22. /**
  23. * 需要代理服务器访问
  24. *
  25. * @param txt 内容
  26. * @return {@link String}
  27. */
  28. public static String chat (String txt) {
  29. Map<String, Object> paramMap = new HashMap<>();
  30. paramMap.put( "model", "gpt-3.5-turbo");
  31. List<Map<String, String>> dataList = new ArrayList<>();
  32. dataList.add( new HashMap<String, String>(){{
  33. put( "role", "user");
  34. put( "content", txt);
  35. }});
  36. paramMap.put( "messages", dataList);
  37. System.out.println(JSONUtil.toJsonStr(paramMap));
  38. JSONObject message = null;
  39. try {
  40. String body = HttpRequest.post(PROXY_ENDPOINT)
  41. .header( "Authorization", API_KEY)
  42. .header( "Content-Type", "application/json")
  43. .body(JSONUtil.toJsonStr(paramMap))
  44. .execute()
  45. .body();
  46. JSONObject jsonObject = JSONUtil.parseObj(body);
  47. System.out.println(jsonObject);
  48. JSONArray choices = jsonObject.getJSONArray( "choices");
  49. JSONObject result = choices.get( 0, JSONObject.class, Boolean.TRUE);
  50. message = result.getJSONObject( "message");
  51. } catch (Exception e) {
  52. return "抱歉,我无法回答你的问题。";
  53. }
  54. return message.getStr( "content");
  55. }
  56. public static void main (String[] args) {
  57. System.out.println(chat( "你是?"));
  58. }
  59. }

这段代码依赖hutool工具包的http工具包


 
 
  1. <dependency>
  2. <groupId>cn.hutool </groupId>
  3. <artifactId>hutool-all </artifactId>
  4. <version>5.7.22 </version>
  5. </dependency>

现在运行测试一下:

可以看到目前整合调用测试成功了。

代码里面的api-key有一定量的token新手可以复制代码运行下试试。言归正传下面开始介绍核心内容。

整合Spring AI组件

起步条件

  • jdk不低于17
  • spring boot 3x

我们直接新建一个demo项目

为何直接新建一个项目的,主要是为了避开一些麻烦。如,阿里云maven镜像没有此依赖,需要到中央仓库下载。

一定要选不低于Java17的jdk

选择这两个依赖就够了

  • Spring Web
  • OpenAI

spring boot的版本不要低于3.0

等待依赖下载完成。

进行必要配置

这个api-key需要你去openal官网去申请购买,或者在一些购物软件直接购买现成的用。

共需要配置:

  1. spring.ai.openai.api-key: 这是你的 OpenAI API 密钥,它是用于通过 API 访问 OpenAI 服务的凭证。密钥应该是一个长字符串,用于标识你的账户并授权访问。

  2. spring.ai.openai.chat.options.model 这是用于设置对话系统所使用的 OpenAI 模型的选项之一。在这种情况下,模型选择为 GPT-3.5 Turbo,这是 OpenAI 提供的一种强大的自然语言处理模型,适用于生成对话。

  3. spring.ai.openai.chat.options.temperature: 这是对话系统生成响应时的温度参数。温度参数控制着生成文本的多样性,值越高,生成文本的多样性越大。在这里,温度设置为 0.7,这意味着对话系统生成的文本会相对保守,但仍具有一定的多样性。

application.properties:


 
 
  1. spring.ai.openai.api-key=sk-uVfM7GiD9RIdIKRrF70eT3BlbkyhdHGHGH
  2. spring.ai.openai.chat.options.model=gpt-3.5-turbo
  3. spring.ai.openai.chat.options.temperature=0.7

代码里面的api-key是我随意写的一个,需要换成你自己的且有效的 。

测试控制器


 
 
  1. import org.springframework.ai.embedding.EmbeddingClient;
  2. import org.springframework.ai.embedding.EmbeddingResponse;
  3. import org.springframework.beans.factory.annotation.Autowired;
  4. import org.springframework.web.bind.annotation.GetMapping;
  5. import org.springframework.web.bind.annotation.RequestParam;
  6. import org.springframework.web.bind.annotation.RestController;
  7. import java.util.List;
  8. import java.util.Map;
  9. /**
  10. * @author mijiupro
  11. */
  12. @RestController
  13. public class EmbeddingController {
  14. private final EmbeddingClient embeddingClient;
  15. @Autowired
  16. public EmbeddingController (EmbeddingClient embeddingClient) {
  17. this.embeddingClient = embeddingClient;
  18. }
  19. @GetMapping("/ai/embedding")
  20. public Map embed (@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
  21. EmbeddingResponse embeddingResponse = this.embeddingClient.embedForResponse(List.of(message));
  22. return Map.of( "embedding", embeddingResponse);
  23. }
  24. }

最后启动项目浏览器地址栏访问测试接口即可。

http://localhost:8080/ai/embedding
 
 

写在最后 

spring boot3整合AI组件到这里就结束了。任何问题评论区或私信讨论,欢迎指正。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值