一、前言
1.1 AI大模型
近几年,AI大模型的发展迅速,成为全球科技竞争的新高地,具有极大的发展潜力和广泛的应用前景。中国在AI大模型领域的发展尤为显著,不仅在算力规模上与美国差距不大,而且在中文语料和文化理解方面具有天然优势。中国企业在大模型开发方面起步较晚,但发展迅速,涌现出如百度的ERNIE、阿里巴巴的M6等代表性的大模型产品。
AI大模型的应用场景广泛,包括但不限于自然语言处理、图像识别、语音识别、推荐系统、自动驾驶、游戏、科学研究等。随着技术的进步,AI大模型正在不断推动人工智能技术的边界,为各行各业带来革命性的变化。
1.2 Spring AI
Spring AI 是 Spring 官方社区项目,旨在简化 Java AI 应用程序开发,让 Java 开发者像使用 Spring 开发普通应用一样开发 AI 应用。
Spring AI项目从最初专注于处理语言输入和生成语言输出的模型开始,逐渐发展成为一个提供多种AI功能集成的框架。它提供了跨AI提供商的可移植API支持,包括聊天、文本到图像、嵌入模型等,并支持同步和流式API选项。
主要功能特点:
- 多模型支持:Spring AI支持多种聊天模型,包括Amazon Bedrock、Anthropic Claud、Azure Open AI等。
- 矢量数据库集成:支持多种矢量数据库,如Apache Cassandra、Elasticsearch、Milvus等。
- Spring Boot集成:提供Spring Boot自动配置和启动器,简化了AI模型和矢量存储的集成。
- ETL框架:提供了数据工程的ETL框架,便于将文档传输到模型提供商,并存储在矢量数据库中。
- 函数调用:允许声明
java.util.Function
实现,以供OpenAI模型在其提示响应中使用。
1.3 Spring Cloud Alibaba AI
Spring Cloud Alibaba AI 以 Spring AI 为基础,并在此基础上提供阿里云通义系列大模型全面适配,让用户能快速开发基于通义大模型的 Java AI 应用。
Spring Cloud Alibaba AI 目前基于 Spring AI 0.8.1 版本 API 完成通义系列大模型的接入。通义接入是基于阿里云 灵积模型服务,灵积模型服务建立在“模型即服务”(Model-as-a-Service,MaaS)的理念基础之上,围绕 AI 各领域模型,通过标准化的API提供包括模型推理、模型微调训练在内的多种模型服务。
在当前最新版本中,Spring Cloud Alibaba AI 主要完成了几种常见生成式模型的适配,包括对话、文生图、文生语音等,开发者可以使用 Spring Cloud Alibaba AI 开发基于通义的聊天、图片或语音生成 AI 应用,框架还提供 OutParser、Prompt Template、Stuff 等实用能力。
二、项目环境准备
开发工具:IDEA
Java环境:JDK17
构建工具:Maven
通义模型key
获取通义api key步骤:
1.阿里云官网开通服务
2.创建key
三、项目开发
3.1 创建工程及配置
3.1.1创建maven工程
idea创建maven工程
初始化
3.1.2添加依赖
<dependencyManagement>
<dependencies>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-alibaba-dependencies</artifactId>
<version>2023.0.1.0</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>
<dependencies>
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-ai</artifactId>
</dependency>
</dependencies>
备注:
添加依赖,出现报错:Cannot resolve org.springframework.ai:spring-ai-core:0.8.1
添加额外的Repository:在pom.xml文件中,添加如下仓库配置段落,这会指引Maven去查找Spring的里程碑和快照仓库,这些仓库可能包含了spring-ai-core或其他sca相关的依赖。
<repositories>
<repository>
<id>spring-milestones</id>
<name>Spring Milestones</name>
<url>https://repo.spring.io/milestone</url>
<snapshots>
<enabled>false</enabled>
</snapshots>
</repository>
<repository>
<id>spring-snapshots</id>
<name>Spring Snapshots</name>
<url>https://repo.spring.io/snapshot</url>
<releases>
<enabled>false</enabled>
</releases>
</repository>
</repositories>
添加后,reload导入
3.1.3 application.yml配置
新建文件夹
新建application.yml文件
内容如下:
server:
port: 8080
spring:
application:
name: alibaba-spring-ai-demo
cloud:
ai:
tongyi:
api-key: 你的api-key
3.1.4 新建SpringBoot启动类
3.2 实现代码
3.2.1 新建包
3.2.2 TongYiController
@RestController
@RequestMapping("/api")
public class TongYiController {
@Resource
private TongYiService tongYiService;
@GetMapping("/simple")
public String completion(@RequestParam(value = "message",defaultValue = "AI时代下Java开发者该何去何从?") String message){
return tongYiService.completion(message);
}
@GetMapping("/stream_completion")
public Map<String, String> streamCompletion(@RequestParam(value = "message",defaultValue = "AI时代下Java开发者该何去何从?") String message){
return tongYiService.streamCompletion(message);
}
@GetMapping("/image")
public ImageResponse getImage(@RequestParam(value = "imgPrompt",defaultValue = "画一只狗") String imgPrompt){
return tongYiService.getImage(imgPrompt);
}
}
3.2.3 TongYiService
public interface TongYiService {
/**
* 基本问答
*
* @param message
* @return
*/
String completion(String message);
/**
* Stream call
*
* @param message
* @return
*/
Map<String, String> streamCompletion(String message);
/**
* 文生图
*
* @param imgPrompt
* @return
*/
ImageResponse getImage(String imgPrompt);
}
3.2.4 TongYiSimpleServiceImpl
@Service
@Slf4j
public class TongYiServiceImpl implements TongYiService {
@Resource
private ChatClient chatClient;
@Resource
private ImageClient imageClient;
@Resource
private StreamingChatClient streamingChatClient;
@Override
public String completion(String message) {
Prompt prompt = new Prompt(new UserMessage(message));
return chatClient.call(prompt).getResult().getOutput().getContent();
}
@Override
public Map<String, String> streamCompletion(String message) {
StringBuilder fullContent = new StringBuilder();
streamingChatClient.stream(new Prompt(message))
.flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))
.map(content->content.getOutput().getContent())
.doOnNext(fullContent::append)
.last()
.map(lastContent -> Map.of(message,fullContent.toString()))
.block();
log.info("fullContent:{}",fullContent);
return Map.of(message,fullContent.toString());
}
@Override
public ImageResponse getImage(String imgPrompt) {
ImagePrompt imagePrompt = new ImagePrompt(imgPrompt);
return imageClient.call(imagePrompt);
}
}
3.3 测试
3.3.1 启动服务
3.3.2 基本对话
3.3.3 文生图