AlibabaCloudAI

最新推荐文章于 2024-09-20 11:45:57 发布
最新推荐文章于 2024-09-20 11:45:57 发布
阅读量651 收藏 17
点赞数 25
文章标签： java CloudAlibabaAI 通义千问 ai 体验AI
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_73770897/article/details/140693851
版权

快速体验 Spring Cloud Alibaba AI

JDK要求最低17

1.SpringAI

Spring AI 旨在简化包含人工智能相关功能的应用程序的开发，避免不必要的复杂性。

Spring AI 的核心是提供抽象，作为开发 AI 应用程序的基础。这些抽象有多种实现方式，只需极少的代码改动即可轻松实现各个大模型之间的切换。

Spring AI 提供以下功能：

  • 支持所有主要模型提供商，例如 OpenAI、Microsoft、Amazon、Google 和 Huggingface。
  • 支持的模型类型包括“聊天”和“文本到图像”，还有更多模型类型正在开发中。
  • 跨 AI 提供商的可移植 API，用于聊天和嵌入模型。支持同步和流 API 选项。还支持下拉访问模型特定功能。
  • AI 模型输出到 POJO 的映射。
  • 支持所有主要矢量数据库提供商，例如 Azure 矢量搜索、Chroma、Milvus、Neo4j、PostgreSQL/PGVector、PineCone、Qdrant、Redis 和 Weaviate
  • 跨 Vector Store 提供商的可移植 API，包括同样可移植的新颖的类似 SQL 的元数据过滤器 API。
  • 函数调用
  • AI 模型和向量存储的 Spring Boot 自动配置和启动器。
  • 数据工程的 ETL 框架

2.Spring Cloud Alibaba AI

Spring Cloud Alibaba AI （以下简称 SCA AI）基于 Spring AI 0.8.1 版本完成通义系列大模型的接入。

DashScope灵积模型服务建立在 模型即服务（Model-as-a-Service，MaaS）的理念基础之上，围绕AI各领域模型，通过标准化的API提供包括模型推理、模型微调训练在内的多种模型服务。

SCA AI 目前支持的模型主要有：对话、文生图、文生语音，更多功能特性正在适配中。

3.创建SCA AI 应用

在 pom.xml 中引入如下依赖配置：

<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-ai</artifactId>
</dependency>

<dependencyManagement>
    <dependencies>
        <dependency>
            <groupId>com.alibaba.cloud</groupId>
            <artifactId>spring-cloud-alibaba-dependencies</artifactId>
             <version>2023.0.1.0</version>
            <type>pom</type>
            <scope>import</scope>
        </dependency>
    </dependencies>
</dependencyManagement>

<!-- 因为 Spring AI 还没有正式发布到 maven 仓库，所以需要添加此配置项 目前 maven 仓库为假的。
issue：https://github.com/spring-projects/spring-ai/issues/537
-->
<repositories>
    <repository>
        <id>spring-milestones</id>
        <name>Spring Milestones</name>
        <url>https://repo.spring.io/milestone</url>
        <snapshots>
            <enabled>false</enabled>
        </snapshots>
    </repository>
    <repository>
        <id>spring-snapshots</id>
        <name>Spring Snapshots</name>
        <url>https://repo.spring.io/snapshot</url>
        <releases>
            <enabled>false</enabled>
        </releases>
    </repository>
</repositories>

4.api-key 配置

在正式开始体验之前，需要申请到模型的 api-key。申请地址：https://help.aliyun.com/zh/dashscope/developer-reference/activate-dashscope-and-create-an-api-key

您可以通过 DashScope 提供的方式配置 api-key，SCA AI 完全兼容 DashScope 环境变量配置 key 的方式：https://help.aliyun.com/zh/dashscope/developer-reference/api-key-settings

当然也可以通过 SCA AI 中提供的如下配置项配置：
在application.yml中配置：

spring:
  cloud:
    ai:
      tongyi:
        # api-key setting:
        api-key: sk-xxxxxxxxxxxxxxxxxxx

5.聊天对话体验

public class ChatService {

    // 聊天客户端
  private final ChatClient chatClient;
  // stream 流式客户端
  private final StreamingChatClient streamingChatClient;

  @Autowired
  public ChatService(ChatClient chatClient, StreamingChatClient streamingChatClient) {

    this.chatClient = chatClient;
    this.streamingChatClient = streamingChatClient;
  }

  @Override
  public String normalCompletion(String message) {

    Prompt prompt = new Prompt(new UserMessage(message));
    return chatClient.call(prompt).getResult().getOutput().getContent();
  }

  @Override
  public Map<String, String> streamCompletion(String message) {

    StringBuilder fullContent = new StringBuilder();

    streamingChatClient.stream(new Prompt(message))
        .flatMap(chatResponse -> Flux.fromIterable(chatResponse.getResults()))
        .map(content -> content.getOutput().getContent())
        .doOnNext(fullContent::append)
        .last()
        .map(lastContent -> Map.of(message, fullContent.toString()))
        .block();
    return Map.of(message, fullContent.toString());
  }

}

之后，创建 controller 接口调用 service 服务：

@Autowired
private ChatService chatService;

@GetMapping("/example")
public String completion(
    @RequestParam(value = "message", defaultValue = "Tell me a joke")
    String message
) {

    return chatService.completion(message);
}

@GetMapping("/stream")
public Map<String, String> streamCompletion(
    @RequestParam(value = "message", defaultValue = "请告诉我西红柿炖牛腩怎么做？")
    String message
) {

    return chatService.streamCompletion(message);
}

调用/example

Sure, here’s one for you: Why was the math book sad? Because it had too many problems!

调用/stream

{
“请告诉我西红柿炖牛腩怎么做？”: “材料材料：\n材料：\n牛材料：\n牛腩1000材料：\n牛腩1000g，西红柿3个（大），材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、土豆、胡萝卜，再加少许冰材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、土豆、胡萝卜，再加少许冰糖调味，继续小火炖煮材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、土豆、胡萝卜，再加少许冰糖调味，继续小火炖煮直至蔬菜熟透；\n6. 最材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、土豆、胡萝卜，再加少许冰糖调味，继续小火炖煮直至蔬菜熟透；\n6. 最后根据个人口味加盐调味即可材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、土豆、胡萝卜，再加少许冰糖调味，继续小火炖煮直至蔬菜熟透；\n6. 最后根据个人口味加盐调味即可出锅。\n\n这道菜色香味材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、土豆、胡萝卜，再加少许冰糖调味，继续小火炖煮直至蔬菜熟透；\n6. 最后根据个人口味加盐调味即可出锅。\n\n这道菜色香味俱全，营养丰富，非常适合家庭材料：\n牛腩1000g，西红柿3个（大），土豆2个，胡萝卜1根。调料：生姜、料酒、冰糖、盐各适量。\n\n做法：\n\n1. 牛腩切块，用开水焯一下去腥；\n2. 西红柿、土豆、胡萝卜洗净后切成滚刀块备用；\n3. 锅中倒油加热，放入姜片和牛腩翻炒至表面变色；\n4. 加入料酒继续翻炒几下，然后加入足够的水没过牛肉，大火烧开后转小火慢炖至牛肉软烂；\n5. 放入西红柿、土豆、胡萝卜，再加少许冰糖调味，继续小火炖煮直至蔬菜熟透；\n6. 最后根据个人口味加盐调味即可出锅。\n\n这道菜色香味俱全，营养丰富，非常适合家庭日常食用。”
}

6.文生图体验

public class ImagesService {

    // 图像生成客户端
  private final ImageClient imageClient;

  @Autowired
  public ImagesService(ImageClient client) {

    this.imageClient = client;
  }

  @Override
  public ImageResponse genImg(String imgPrompt) {

    var prompt = new ImagePrompt(imgPrompt);
    return imageClient.call(prompt);
  }

}

文生图对应的 controller 接口如下：

@Autowired
private ImagesService imagesService;

    @GetMapping("/img")
    public ResponseEntity<ByteArrayResource> getImageAsByteArray(@RequestParam(value = "prompt", defaultValue = "Painting a picture of blue water and blue sky.") String imgPrompt) {
        // imagesService.genImg(imgPrompt)，返回包含Base64编码图片的ImageResponse对象
        ImageResponse imageResponse = imagesService.genImg(imgPrompt);
        // 解析Base64编码的JSON字符串，获取Base64编码的图片数据
        String b64Json = imageResponse.getResult().getOutput().getB64Json();
        // 将Base64编码的字符串解码为字节数组
        byte[] imageBytes = Base64.getDecoder().decode(b64Json);
        // 构建 ByteArrayResource 对象
        ByteArrayResource resource = new ByteArrayResource(imageBytes);
        // 构建 HTTP 响应头
        HttpHeaders headers = new HttpHeaders();
        headers.setContentType(MediaType.IMAGE_JPEG); // 根据实际图片类型设置
        headers.setContentLength(imageBytes.length);
        // 返回包含图片字节数组资源的 ResponseEntity
        return ResponseEntity.ok()
                .headers(headers)
                .body(resource);

    }

调用/img

在这里插入图片描述

7.文生语音体验

public class AudioService {

  private final SpeechClient speechClient;

  @Autowired
  public AudioService(SpeechClient client) {

    this.speechClient = client;
  }

  @Override
  public String genAudio(String text) {

    var resWAV = speechClient.call(text);
    return save(resWAV, SpeechSynthesisAudioFormat.WAV.getValue());
  }

    // 辅助方法，用于将模型的响应保存到本地.
  private String save(ByteBuffer audio, String type) {

    String currentPath = System.getProperty("user.dir");
    LocalDateTime now = LocalDateTime.now();
    DateTimeFormatter formatter = DateTimeFormatter.ofPattern("MM-dd-HH-mm-ss");
    String fileName = currentPath + File.separator + now.format(formatter) + "." + type;
    File file = new File(fileName);

    try (FileOutputStream fos = new FileOutputStream(file)) {
      fos.write(audio.array());
    }
    catch (Exception e) {
      throw new RuntimeException(e);
    }

    return fileName;
  }

}

controller 接口代码如下：

  @Autowired
  private AudioService audioService;

  @GetMapping("/audio")
  public String genAudio(@RequestParam(value = "prompt",
      defaultValue = "你好，Spring Cloud Alibaba AI 框架！") String prompt) {

    return audioService.genAudio(prompt);
  }

调用/audio

在这里插入图片描述

至此，Spring Cloud Alibaba AI 提供的三种基本功能已经体验完成，后续您还可以通过设置一些个性化的参数来使大模型生成各种各样的图片和音频等。
更多配置项可以参考：https://help.aliyun.com/zh/dashscope/developer-reference/api-details。社区相关的文档正在完善，更多功能正在开发中！

今晚许个愿
关注
在windows下使用本地AI模型提供翻译、对话、文生图服务
omnibots的博客
06-08 3271
OllamaOllluma全面兼容MacOS、Linux和Windows系统，它提供简洁的一键式本地模型部署流程，并将API功能统一转换至与OpenAI相匹配的标准格式，旨在为您带来无缝且高效的使用体验。Docker Desktop 是一个由 Docker Inc. 开发的桌面应用软件，用于在 Windows、macOS 和 Linux 操作系统上运行本地容器。它提供了一种简单且易于使用的界面来启动和管理 Docker 容器，并提供了对一些常用工具（如 Kubernetes）的支持。
Llama也能做图像生成？文生图模型已开源
python123456_的博客
07-02 2158
如果以扩散模型的发展路线做类似，目前的LlamaGen只是Stable Diffusion v1阶段，改进方向包括SDXL（更大的分辨率，更多的aspect ratio），ControlNet（更高的可控性），Sora（视频生成）。从多模态大模型的视角看，自回归模型分别实现理解任务和生成任务都被证明了可行性，下一步就是在同一个模型中联合训练。这需要更多的图文数据和更大的计算资源才能走得通，也可能由于文本数据和图像数据的内在distribution不同这条路走到后面不太行得通。大模型时代，一切皆有可能！
手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
最新发布
2401_86435672的博客
09-20 2703
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。中文支持不够完善。\3. 文中提到的技术软件工具有：Ollama、Chatbox、Open WebUI、向量数据库、嵌入模型、本地模型 Gemma、AnythingLLM。
Spring AI来了，Java开发者福音
TyCoding的博客
03-01 4385
Spring AI来了，Java生态接入LLM大模型变得更加简单！
文生图prompt不再又臭又长！LLM增强扩散模型，简单句就能生成高质量图像｜ACM MM'23...
zenRRan的博客
09-02 191
来自：新智元进NLP群—>加入NLP交流群【新智元导读】参数高效的微调方法SUR-adapter，可以增强text-to-image扩散模型理解关键词的能力。扩散模型已经成为了主流的文本到图像生成模型，可以基于文本提示的引导，生成高质量且内容丰富的图像。但如果输入的提示过于简洁，现有的模型在语义理解和常识推理方面都存在局限，导致生成的图像质量下降明显。为了提高模型理解叙述性提示的能力，中...
中文微调版llama3来了，附ollama部署方法
xiangxueerfei的博客
05-30 1532
在人工智能的浩瀚星空中，刚发布不久的Llama 3如同一颗璀璨的星辰，以其强大的能力照亮了智能对话的未来。然而，即便是如此耀眼的存在，也因为某些不可说的原因在中文世界面前显得有些力不从心。但现在，一道曙光划破了这片迷雾——中文微调版的Llama 3正式登场，它的地址是：https://github.com/ymcui/Chinese-LLaMA-Alpaca-3。这个版本并非官方出品，因此，我们不能直接使用ollama进行下载。但别担心，魔搭社区为我们提供了下载的途径。
全民AI时代：手把手教你用Ollama & AnythingLLM搭建AI知识库，无需编程，跟着做就行！
lythinking的博客
04-15 4744
本地运行大模型耗资源，需要选择较小的模型作为基础模型。在终端中运行时可能会出现 CUDA 错误，表示显存不足，导致提供的端口失效。若使用Hugging Face，需要申请 API Key 并且需要本地有 Python 或其他编程语言的环境。而使用Ollama则更加简单。✨ AI算法工程师 | AIGC技术实践者 🚀🎵 知音难求，自我修炼亦艰。📚 吾生也有涯，而知也无涯。🌌 AIGC时代，立志成为超级个体：抓住前沿技术的机遇，与我们一起成为创新的超级个体。✉️ 回复“群聊”，就能和大家嗨聊！
开源模型应用落地-工具使用篇-Spring AI（七）
没有卑微的工作，只有卑微的心态，与其抱怨，不如埋头实干
03-06 6302
Spring AI调用OpenAI及Ollama系列模型，良心之作，全网唯一，绝非搬运，希望能给您带来一些些帮助！
【NLP】复旦开源MOSS，首个「中国版ChatGPT」 附详细下载+安装+部署教程
fengdu78的博客
04-24 9924
来源|新智元 微信号：AI-era复旦NLP团队首次上线MOSS两个月后，他们遵照承诺，真的把MOSS开源了。同时，MOSS也成为了国内首个搭载插件系统的开源对话语言模型。国内首个类ChatGPT模型MOSS，开源了！这次，复旦团队的模型不仅更加成熟，而且还增加了「搜索引擎、计算器、解方程、文生图」等插件功能，既可在线体验，也支持本地部署——在FP16精度下单张A100/A800或两张309...
Spring AI开发前期开发指导(maven依赖下载问题解决)
缘友一世的博客
05-13 1807
【代码】Spring AI开发前期开发指导(maven依赖下载问题解决)
Obsidian+llama3：终于搭建了自己的知识库
谢彦的技术博客
05-19 1802
Obsidian 的 Smart Connections，超出了我原本的预期，于是结合新模型非常方便地搭建了我的个人知识库。
Ollama：本地部署大模型 + LobeChat：聊天界面 = 自己的ChatGPT
2401_85328934的博客
06-17 3365
本篇文章介绍了本地大模型的部署和 LobeChat 界面的部署，成功在本地部署属于自己的ChatGPT。上面也只是关键步骤的说明，遇到问题多看下官方的安装文档。本文起到抛砖引玉作用。
SpringAI快速上手
weixin_74261199的博客
06-16 384
镜像（导入maven依赖）依赖（导入maven依赖）的位置替换成自己申请的。
总结之Spring AI（一）——使用Spring AI
IManiy的博客
06-12 2659
当前各种AI项目层出不穷，但绝大多数都是用python写的，现在Spring开源了Spring AI项目，让Java开发者也可以轻松给自己的springboot项目集成AI能力。目前spring AI正式版本为0.8.1，支持接入openAI、Ollama、Azure openAI、Huggingface等，可实现聊天、embedding、图片生成、语音转文字、向量数据库、function calling、prompt模板、outputparser、RAG等功能，就像Java版本的langchain。
如何让本地大模型用起来更舒服
python1234_的博客
05-22 1352
如果一个本地大模型，拥有以下强大功能，而且不需要任何费用，你会心动吗？LobeChat的插件生态系统是其核心功能的关键扩展，这些插件不仅限于新闻聚合，还能扩展到其他实用功能，如快速检索文档、生成图片、获取 Bilibili 和 Steam 等平台的数据，并与各种第三方服务进行交互。LobeChat的助手市场，创作者们会发现一个充满活力和创新的社区。这里汇集了众多精心设计的AI助手。
ControlNet 作者新项目|Omost: 利用 LLM 编程能力文生图
weixin_51674085的博客
06-01 551
然后模型可以基于该代码生成非常精细且准确的图片，并且还支持通过文本提示直接局部重绘，效果非常棒，一定要试试啊！ControlNet 作者的一个新项目，非常牛逼，通过很短的提示词生成类。Canvas 类实例。
使用ollama分别在我的window、mac、小米手机上部署体验llama3-8b（文末有福利）
2401_85343303的博客
08-02 685
1、## ollama到底是个什么玩意一句话来说， Ollama 是一个基于 Go 语言开发的简单易用的本地大模型运行框架。可以将其类比为 docker（有类似docker中的一些常规命令list,pull,push,run 等等），事实上确实也制定了类似 docker 的一种模型应用标准，在后边的内容中，你能更加真切体会到这一点。在管理模型的同时，它还基于 Go 语言中的 Web 框架 gin 提供了一些 Api 接口，让你能够像跟 OpenAI 提供的接口那样进行交互。
零成本高效部署：Llama 3本地使用全攻略
程序员鑫港的博客
05-09 6030
Meta公司的Llama 3大模型引领AI新篇章 各位朋友，我是袋鼠帝。近日，真正的“OpenAI”——Meta公司，对“Close AI”进行了有力回应，推出了其开源大模型系列的最新力作——更是青出于蓝，不仅在技术层面实现了对的重大突破，还在各种评估测试中展现出令人瞩目的表现。这标志着AI技术又迈出了坚实的一步。目前，推出了两个版本，分别是8B和70B。在与同等级别的Gemma和Mistral开源模型较量中，8B版本展现出了显著的优势。
『保姆级』大模型教程来了（从入门到实战）
2301_76168381的博客
04-01 4293
在大模型的构建之下，AI自动化交互，将会决定世界的未来，谁的大模型更强大，将决定在遥远的未来的话语权，同时，大模型会成为AI基础设施。AI大模型，正在构建的颠覆力，为了更好的入局AI大模型，🔻 针对ChatGLM大模型，介绍ChatGLM模型微调。🔻 大模型的定义和特点，如预训练、微调、指令学习等。🔻 05 精读大模型-3论文、Instruct论文。🔻 04 GLM-130B训练营——论文泛读。🔻 05 GLM-130B训练营——论文精读。🔻 08 Alpaca训练营——论文精读。
【Llama3:8b】手把手教你如何在本地部署 自己的 AI 大模型 (◍•ᴗ•◍)
weixin_59191169的博客
05-28 1478
但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。观看零基础学习书籍和视频，看书籍和视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值