springAI

什么是大模型

大模型，是指具有大模型参数和复杂计算结构的机器学习模型，这些模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个参数，其设计目的在于提高模型的表达能力和预测性能，以应对更加复杂的任务和数据；
大模型，简单来说，就是一个特别聪明，特别能干的‘大脑’，这个‘大脑’由很多个小小的‘神经元’组成，每个‘神经元’都能处理一部分信息，当这些‘神经元’一起工作时，大模型就能理解并回答各种问题，或者完成各种复杂的任务，就像你又一个超级聪明的助手，它能帮你写邮件，写PPT，回答你的各种问题等等，它就像是一个上知天文，下知地理，无所不知的人。

如何训练大模型

要训练一个大模型不容易，需要给它提供很多学习材料，就像我们小时候读书学习一样，而且为了让这个‘大脑’更聪明，还需要很多高级的计算机设备来帮助它学习。
训练大模型：
1.高性能的CPU和GPU，多核心和高主频的CPU以及支持CUDA的GPU加速训练过程；
2.大容量存储设备，训练大模型需要存储大量的数据集，模型参数和中间结果；
3.高速网络连接，通过网络连接将训练任务分配到多个计算节点上，
4.深度学习框架，如TensorFlow，PyTorch等，这些框架提供了构建和训练模型的工具和库；
5.分布式训练框架，为了加速大模型的训练，可以使用分布式训练框架，如Horovod,Ray等；
6.编程语言和工具，Python是深度学习领域最常用的编程语言，还有（如Git）来管理代码和版本迭代；
7.训练大模型非常耗电，高性能计算机和GPU进行长时间的工作，需要消耗大量的电力；

Sping AI
Sping AI是一个AI工程领域的应用程序框架；
它的目标是将Spring生态系统的设计原则应用于人工智能领域，比如Spring生态系统的可移植性和模块化设计，并推广使用POJO来构建人工智能领域应用程序；
Spring AI并不是要构建一个自己的AI大模型，而是让你对接各种AI大模型；

开发Spring AI程序的前期准备
1.本机电脑要可以访问OpenAI网站https://openai.com/

2,要有OpenAI的API Key;（注册账号或者购买）

API-Key：sk-3sfER03LDLG3SDFsdlwe2283JSdw023lkrmrHDND32fmREKFD 淘宝购买一个 搜索 open ai api key

开发Spring AI应用程序

Spring AI应用程序也是基于Spring Boot进行开发
1，建项目，创建一个Spring Boor项目

2，加依赖，加入spring-ai-openai-spring-boot-starter依赖；
ai依赖：

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>

开发Spring AI应用程序
pom.xml配置

1.继承父项目：

<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-bom</artifactId>
<version>${spring-ai.version}</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>

<properties>
<java.version>17</java.version>
<spring-ai.version>1.0.0-SNAPSHOT</spring-ai.version>
</properties>

2.配置项目依赖下载的仓库

<!-- 配置本项目的仓库 因为maven中心仓库还没有更新spring ai的jar包 -->
<repositories>
<!-- 快照版本的仓库-->
<repository>
<id>spring-snapshot</id>
<name>Spring Snapshots</name>
<url>https://repo.spring.io/snapshot</url>
<releases>
<enabled>false</enabled>
</releases>
</repository>
</repositories>

3.配文件 application.yml

spring:
 application:
   name: spring-ai-01-chat

 ai:
   openai:
    api-key: sk-3sfER03LDLG3SDFsdlwe2283JSdw023lkrmrHDND32fmREKFD
    base-url: https://api.openai.com
    chat:
      options:
       #model: gpt-4-32k
       temperature: 0.3F

聊天API

4.写代码
注入OpenAiChatClient

 /**
* spring - ai 自动装配的，可以直接注入使用
*/
@Resource
private OpenAiChatClient openAiChatClient;

调用call方法

   openAiChatClient.call(msg);

5.去运行

package com.example.controller;

import jakarta.annotation.Resource;
import org.springframework.ai.chat.ChatResponse;
import org.springframework.ai.chat.prompt.Prompt;
import org.springframework.ai.openai.OpenAiChatClient;
import org.springframework.ai.openai.OpenAiChatOptions;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
import reactor.core.publisher.Flux;

@RestController
public class ChatController {
   

/**
* spring - ai 自动装配的，可以直接注入使用
*/
@Resource
private OpenAiChatClient openAiChatClient;

/**
* 调用OpenAI的接口
* @param msg 我们提的问题
* @return
*/
@RequestMapping(value = "/ai/chat")
public String chat(@RequestParam(value = "msg") String msg){
   
System.out.println(msg);
String called = openAiChatClient.call(msg);
return called;
}

/**
* 调用OpenAI的接口
* @param msg 我们提的问题
* @return
*/
@RequestMapping(value = "/ai/chat2")
public Object chat2(@RequestParam(value = "msg") String msg){
   
System.out.println(msg);