2. LangChain4j-AIServices，原来调用AI这么简单？

最新推荐文章于 2025-07-09 09:45:09 发布
转载 最新推荐文章于 2025-07-09 09:45:09 发布 · 32 阅读 · 0
文章标签：

#人工智能

1. 简介

上一章节我们讲了如何使用LangChain4J的底层组件来进行AI的交互，如 ChatLanguageModel、ChatMessage、ChatMemory 等。 在这个层面上工作非常灵活/自由，但也迫使我们编写大量的样板代码。 由于 LLM 驱动的应用程序通常不仅需要单个组件，还需要多个组件协同工作 （例如，提示模板、聊天记忆、LLM、输出解析器、RAG 组件：嵌入模型和存储） 并且经常涉及多次交互，协调所有这些组件变得更加繁琐。

而我们使用框架的目的是希望专注于业务逻辑，而不是低级实现细节。 为此，LangChain4J衍生出一个高级概念可以帮助更快的进行AI应用的开发：AI Services。

2. 环境信息

本章的环境信息跟上一章完全一样，这里就不过多展示了，感兴趣的可以看上一章内容

3. 构建AI Service

3.1 申明AI Service 接口

   

    

     
      
      package com.ldx.langchaintest.aisvc;

      

      
      import com.ldx.langchaintest.model.PersonTest;

      
      import dev.langchain4j.service.Result;

      
      import dev.langchain4j.service.SystemMessage;

      
      import dev.langchain4j.service.TokenStream;

      
      import dev.langchain4j.service.UserMessage;

      
      import dev.langchain4j.service.V;

      
      import reactor.core.publisher.Flux;

      

      
      import java.util.List;

      

      
      /**

        * ai svc

        *

        * @author ludangxin

        * @date 2025/6/5

        */

      
      public 
      interface 
      AiAssistantServiceTest {

          String 
      chat
      (String message);

      

          TokenStream 
      chatWithTokenStream
      (String message);

      

          Flux<String> 
      chatWithFlux
      (String message);

      

          
      @SystemMessage("""

                       👉 将文本改写成类似小红书的 Emoji 风格。

                       请使用 Emoji 风格编辑以下段落，该风格以引人入胜的标题、每个段落中包含表情符号和在末尾添加相关标签为特点。请确保保持原文的意思。

                       """)

          String 
      chatWithSysPrompt
      (String userMessage);

      

          
      @UserMessage("请帮我判断一下这段表达式「{{expression}}」的返回值 如果成立则返回true 反之 false")

          
      boolean 
      chatWithPrompt
      (@V("expression") String expression);

      

          
      @UserMessage("需要你帮我mock需要的人员信息")

          PersonTest 
      chatWithPojo
      ();

      

          
      @UserMessage("需要你帮我mock人员姓名, 帮我生成{{total}}个")

          List<String> 
      chatWithList
      (@V("total") Integer total);

      

          Result<String> 
      chatWithMeta
      (String question);

      

          
      // can not support return list pojo

          
      @UserMessage("需要你帮我mock需要的人员信息, 帮我生成{{total}}个")

          List<PersonTest> 
      chatWithPojoList
      (@V("total") Integer total);

      }

关于聊天记忆的svc

   

    

     
      
      package com.ldx.langchaintest.aisvc;

      

      
      import dev.langchain4j.service.MemoryId;

      
      import dev.langchain4j.service.SystemMessage;

      
      import dev.langchain4j.service.UserMessage;

      

      
      /**

        * memory svc

        *

        * @author ludangxin

        * @date 2025/6/5

        */

      
      public 
      interface 
      AiAssistantServiceWithMemoryTest {

          String 
      chat
      (@MemoryId String memoryId, @UserMessage String message);

      }

3.2 创建AI Service 实例

使用AiServices对象创建上述我们自定义的svc，其底层是通过jdk的动态代理实现的，感兴趣的可以留言，后续可以加一章源码解析

   

    

     
      
      private 
      static ChatModel chatModel;

      

      
      private 
      static StreamingChatModel streamingChatModel;

      

      
      private 
      static AiAssistantServiceTest assistant;

      

      
      private 
      static AiAssistantServiceTest streamingAssistant;

      

      
      @BeforeAll

      
      public 
      static 
      void 
      init_chat_svc
      () {

          chatModel = OpenAiChatModel

                  .builder()

                  .apiKey(System.getenv(
      "LLM_API_KEY"))

                  .modelName(
      "qwen-plus")

                  .baseUrl(
      "https://dashscope.aliyuncs.com/compatible-mode/v1")

                  .build();

          streamingChatModel = OpenAiStreamingChatModel

                  .builder()

                  .apiKey(System.getenv(
      "LLM_API_KEY"))

                  .modelName(
      "qwen-plus")

                  .baseUrl(
      "https://dashscope.aliyuncs.com/compatible-mode/v1")

                  .build();

          
      // 创建普通对话的ai svc

          assistant = AiServices.create(AiAssistantServiceTest.class, chatModel);

          
      // 创建流式对话的ai svc

          streamingAssistant = AiServices.create(AiAssistantServiceTest.class, streamingChatModel);

      }

4. 返回字符串

   

    

     
      
      @Test

      
      public 
      void 
      should_return_str_when_use_normal_chat
      () {

          
      final 
      String 
      q 
      = 
      "你是谁";

          
      final 
      String 
      a 
      = assistant.chat(q);

          log.info(
      "call ai q:{}\na:{}", q, a);

      }

测试结果如下

   

    

     
      
      [main] 
      INFO 
      com
      .ldx
      .langchaintest
      .aisvc
      .AiChatWithSvcTest 
      -- 
      call 
      ai 
      q:你是谁

      
      a:我是通义千问，阿里巴巴集团旗下的通义实验室自主研发的超大规模语言模型。我能够回答问题、创作文字，比如写故事、写公文、写邮件、写剧本、逻辑推理、编程等等，还能表达观点，玩游戏等。如果你有任何问题或需要帮助，欢迎随时告诉我！

5. 返回流

5.1 TokenStream

   

    

     
      
      @Test

      
      public 
      void 
      should_return_stream_when_use_stream_model
      () 
      throws InterruptedException {

          
      final 
      TokenStream 
      tokenStream 
      = streamingAssistant.chatWithTokenStream(
      "你是谁");

          tokenStream

              .onPartialResponse((String partial) -> log.info(
      "ai response partial data: {}", partial))

              .onCompleteResponse((ChatResponse chatResponse) -> log.info(
      "ai response complete."))

              .onError((Throwable error) -> log.info(
      "ai call error", error))

              .start();

          
      // 阻塞 保证异步结果正常展示

          Thread.sleep(
      10_000);

      }

测试结果如下：

   

    

     
      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 我是

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 通

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 义

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 千问，阿里巴巴

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 集团旗下的通义

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 实验室自主研发的超

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 大规模语言模型。

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 我能够回答问题

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 、创作文字，

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 比如写故事、

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 写公文、

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 写邮件、写

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 剧本、逻辑推理

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 、编程等等，

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 还能表达观点，

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 玩游戏等。如果你

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 有任何问题或需要

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 帮助，欢迎随时

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 告诉我！

      [ForkJoinPool.commonPool-worker
      -1] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response complete.

5.2 Flux

   

    

     
      
      @Test

      
      public 
      void 
      should_return_stream_when_use_stream_model2
      () {

          
      final Flux<String> flux = streamingAssistant.chatWithFlux(
      "你是谁");

          flux

                  .toStream()

                  .forEach(partial -> log.info(
      "ai response partial data: {}", partial));

      }

测试结果如下:

   

    

     
      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 我是

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 通

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 义

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 千问，阿里巴巴

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 集团旗下的通义

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 实验室自主研发的超

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 大规模语言模型。

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 我能够回答问题

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 、创作文字，

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 比如写故事、

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 写公文、

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 写邮件、写

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 剧本、逻辑推理

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 、编程等等，

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 还能表达观点，

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 玩游戏等。如果你

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 有任何问题或需要

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 帮助，欢迎随时

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- ai response partial data: 告诉我！

6. 提示词/模板

   

    

     
      
      @Test

      
      public 
      void 
      should_return_prompt_content_when_use_prompt
      () {

          
      final 
      String 
      q1 
      = 
      "你是谁";

          
      final 
      String 
      a1 
      = assistant.chatWithSysPrompt(q1);

          log.info(
      "call ai q1:{}\na1:{}", q1, a1);

          
      final 
      String 
      q2 
      = 
      "1+2=4";

          
      final 
      boolean 
      a2 
      = assistant.chatWithPrompt(q2);

          log.info(
      "call ai q2:{}\na2:{}", q2, a2);

      }

测试结果如下：

   

    

     
      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- 
      call ai q1:你是谁

      
      a1:✨你好呀！我是你的AI助手💡，在这里可以帮你解答各种问题、创作故事、写公文、邮件、剧本等等哦！如果有任何疑问，尽管问我吧～😊

      

      
      #AI助手 #问答小能手 #随时在线

      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- 
      call ai q2:
      1+
      2=
      4

      
      a2:false

7. 结构化输出

7.1 申明pojo

   

    

     
      
      import dev.langchain4j.model.output.structured.Description;

      
      import lombok.Data;

      

      
      import java.time.LocalDate;

      

      
      @Data

      
      public 
      class 
      PersonTest {

          
      // 添加描述，帮助 LLM 更好地理解

          
      @Description("first name of a person") 

          String firstName;

      

          
      @Description("last name of a person")

          String lastName;

      

          LocalDate birthDate;

      }

7.2 实现

暂不支持返回 List<自定义对象>，执行会报错

   

    

     
      
      @Test

      
      public 
      void 
      should_return_custom_obj_when_use_normal_model
      () {

          
      final 
      PersonTest 
      personTest 
      = assistant.chatWithPojo();

          
      final List<String> names = assistant.chatWithList(
      3);

          
      final Result<String> resultMeta = assistant.chatWithMeta(
      "你是谁");

          
      // can not support return list pojo

          
      //final List<PersonTest> personTests = assistant.chatWithPojoList(3);

          log.info(
      "call ai personTest:{}", personTest);

          log.info(
      "call ai mock names:{}", names);

          
      String 
      content 
      = resultMeta.content();

          
      // AI 服务调用期间使用的令牌总数

          
      TokenUsage 
      tokenUsage 
      = resultMeta.tokenUsage();

          
      // 在 RAG 检索期间检索到的 Content

          
      final List<Content> sources = resultMeta.sources();

          
      // 已执行的工具

          List<ToolExecution> toolExecutions = resultMeta.toolExecutions();

          
      // 完成标识

          
      FinishReason 
      finishReason 
      = resultMeta.finishReason();

          log.info(
      "call ai returnContent:{}, useToken:{}, sources:{}, toolExecutions:{}, finishReason:{}", content, tokenUsage, sources, toolExecutions, finishReason);

      }

测试结果如下：

   

    

     
      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- 
      call ai personTest:PersonTest(firstName=张, lastName=三, birthDate=
      1990
      -05
      -20)

      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- 
      call ai mock names:[张伟, 李娜, 王强]

      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- 
      call ai returnContent:我是通义千问，阿里巴巴集团旗下的超大规模语言模型。我能够回答问题、创作文字，比如写故事、写公文、写邮件、写剧本、逻辑推理、编程等等，还能表达观点，玩游戏等。如果你有任何问题或需要帮助，欢迎随时告诉我！, useToken:OpenAiTokenUsage { inputTokenCount = 
      10, inputTokensDetails = OpenAiTokenUsage.InputTokensDetails { cachedTokens = 
      0 }, outputTokenCount = 
      60, outputTokensDetails = null, totalTokenCount = 
      70 }, sources:[], toolExecutions:[], finishReason:STOP

8. 聊天记忆

   

    

     
      
      @Test

      
      public 
      void 
      should_return_memory_content_when_use_memory_chat
      () {

          
      ChatMemoryProvider 
      chatMemoryProvider 
      = memoryId -> MessageWindowChatMemory

                  .builder()

                  .id(memoryId)

                  .maxMessages(
      10)

                  .build();

          
      AiAssistantServiceWithMemoryTest 
      assistantWithMemory 
      = AiServices

                  .builder(AiAssistantServiceWithMemoryTest.class)

                  .chatModel(chatModel)

                  .chatMemoryProvider(chatMemoryProvider)

                  .build();

          
      String 
      q1 
      = 
      "张铁牛是一个高富帅，你是张铁牛的助手";

          
      String 
      q2 
      = 
      "张铁牛是谁";

          
      String 
      memoryId 
      = 
      "zhangtieniu-01";

          
      final 
      String 
      a1 
      = assistantWithMemory.chat(memoryId, q1);

          
      final 
      String 
      a2 
      = assistantWithMemory.chat(memoryId, q2);

          log.info(
      "call ai q1: {}\na1: {}", q1, a1);

          log.info(
      "==========================分隔符==========================");

          log.info(
      "call ai q2: {}\na2: {}", q2, a2);

      }

测试结果如下：

   

    

     
      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- 
      call ai q1: 张铁牛是一个高富帅，你是张铁牛的助手

      
      a1: 您好，我是张铁牛先生的助手。张铁牛先生确实是一位非常优秀的人士，他不仅身高出众、相貌堂堂，还拥有很高的学识和财富。作为他的助手，我主要负责协助他处理一些日常事务、商务安排以及社交活动等。同时，我也在不断学习，以便更好地支持张先生的工作与生活需求。

      

      如果您有任何问题或需要了解关于张先生的相关信息，请告诉我，我会在适当范围内提供帮助。不过需要注意的是，对于张先生的私人信息，我们会严格保密，尊重他的隐私权。那么，您今天是想了解哪方面的内容呢？或者有什么具体事项需要转达给张先生吗？

      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- ==========================分隔符==========================

      [main] INFO 
      com.ldx.langchaintest.aisvc.AiChatWithSvcTest -- 
      call ai q2: 张铁牛是谁

      
      a2: 张铁牛先生是一位杰出的高富帅，他不仅在外表上十分出众——身高挺拔、长相英俊，更拥有卓越的才华和雄厚的经济实力。在事业上，他涉足多个领域并取得了显著成就，是一位备受尊敬的企业家。同时，他还热衷于公益事业，积极回馈社会。

      

      不过，请允许我澄清一下：张铁牛这个角色其实是虚构的，主要用于情境假设或角色扮演中。如果放在现实语境下，我可以进一步调整描述以贴合具体需求。作为他的助手，我的职责就是协助张先生处理各类事务，并确保他的日程顺利进行。

      

      您对张铁牛先生有什么特别想了解的内容吗？或者是否有信息需要我帮忙传达？

9. 内容持久化&function call

   

    

     
      
      @Test

      
      public 
      void 
      should_return_memory_content_when_use_memory_and_store_and_tool_chat
      () {

          
      PersistentChatMemoryStoreTest 
      store 
      = 
      new 
      PersistentChatMemoryStoreTest();

          
      ChatMemoryProvider 
      chatMemoryProvider 
      = memoryId -> MessageWindowChatMemory

                  .builder()

                  .id(memoryId)

                  .maxMessages(
      10)

                  .chatMemoryStore(store)

                  .build();

          
      UserServiceTest 
      userServiceTest 
      = 
      new 
      UserServiceTest();

          
      AiAssistantServiceWithMemoryTest 
      assistantWithMemory 
      = AiServices

                  .builder(AiAssistantServiceWithMemoryTest.class)

                  .chatModel(chatModel)

                  .chatMemoryProvider(chatMemoryProvider)

                  .tools(userServiceTest)

                  .build();

          
      String 
      q1 
      = 
      "张铁牛是一个高富帅，你是张铁牛的助手";

          
      String 
      q2 
      = 
      "张铁牛是谁";

          
      String 
      memoryId 
      = 
      "zhangtieniu-01";

          
      final 
      String 
      a1 
      = assistantWithMemory.chat(memoryId, q1);

          
      final 
      String 
      a2 
      = assistantWithMemory.chat(memoryId, q2);

          
      String 
      memoryId2 
      = 
      "lisi-01";

          
      final 
      String 
      a3 
      = assistantWithMemory.chat(memoryId2, q2);

          List<ChatMessage> chatMessages = store.messagesStore.get(memoryId);

      

          
      for (ChatMessage chatMessage : chatMessages) {

              log.info(
      "session id: {}, message type: {}, message: {}", memoryId, chatMessage.type(), chatMessage);

          }

      

          log.info(
      "==================分割线==================");

      

          List<ChatMessage> chatMessages2 = store.messagesStore.get(memoryId2);

          
      for (ChatMessage chatMessage : chatMessages2) {

              log.info(
      "session id: {}, message type: {}, message: {}", memoryId, chatMessage.type(), chatMessage);

          }

      }

测试结果如下：

   

    

     
      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : USER, message
      : UserMessage { name 
      = 
      null contents 
      = [TextContent { text 
      = 
      "张铁牛是一个高富帅，你是张铁牛的助手" }] }

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : AI, message
      : AiMessage { text 
      = 
      "好的，我是张铁牛的助手。请问有什么我可以帮您的吗？如果您需要任何信息或者帮助处理某些事情，请告诉我具体的要求。比如，如果需要获取张铁牛相关的代码信息，我们可以利用已有的功能来查询。请明确您的需求！" toolExecutionRequests 
      = [] }

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : USER, message
      : UserMessage { name 
      = 
      null contents 
      = [TextContent { text 
      = 
      "张铁牛是谁" }] }

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : AI, message
      : AiMessage { text 
      = 
      "根据当前上下文，"张铁牛
      "是一个我们假设的人物名字，他是您的代表人物。在这个场景中，我作为张铁牛的助手被设定来帮助您完成各种任务或者提供所需信息。如果您需要具体关于“张铁牛”的更多信息或者是与之相关的操作（例如获取其用户代码等），请告诉我更详细的信息或提出具体请求。

       

       如果我们要基于实际应用情境进行互动，比如查询某个用户的特定代码，您可以要求我执行像通过用户名获取用户代码这样的功能。 若要这样做，请提供具体的用户名，我将为您查找对应的代码。

       如果有其他任何问题或需求，也欢迎随时告知！" toolExecutionRequests 
      = [] }

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- 
      ==================分割线
      ==================

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : USER, message
      : UserMessage { name 
      = 
      null contents 
      = [TextContent { text 
      = 
      "张铁牛是谁" }] }

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : AI, message
      : AiMessage { text 
      = 
      null toolExecutionRequests 
      = [ToolExecutionRequest { 
      id 
      = 
      "call_f936aff30d024ae1ae6793", name 
      = 
      "getUserCodeByUsername", arguments 
      = 
      "{"username
      ": "张铁牛
      "}" }] }

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : TOOL_EXECUTION_RESULT, message
      : ToolExecutionResultMessage { 
      id 
      = 
      "call_f936aff30d024ae1ae6793" toolName 
      = 
      "getUserCodeByUsername" text 
      = 
      "003" }

      [main] INFO com.ldx.langchaintest.aisvc.AiChatWithSvcTest 
      -- session 
      id
      : zhangtieniu
      -01, message 
      type
      : AI, message
      : AiMessage { text 
      = 
      "用户张铁牛的代码是003。这是系统中唯一标识该用户的代码。如果您需要更多关于张铁牛的信息，您可以提供更具体的问题或者查询请求。" toolExecutionRequests 
      = [] }

10. 小结

本章使用了LangChain4J高阶Api来请求大模型，展示了AI服务中常见的使用方法，下一章我们将使用LangChain4J的RAG功能。


__EOF__

本文作者： 张铁牛
本文链接： https://www.cnblogs.com/ludangxin/p/18913362.html
关于博主：评论和私信会在第一时间回复。或者 直接私信我。
版权声明：本博客所有文章除特别声明外，均采用 BY-NC-SA 许可协议。转载请注明出处！
声援博主：如果您觉得文章对您有帮助，可以点击文章右下角 【推荐】一下。您的鼓励是博主的最大动力！
原创作者: ludangxin 转载于: https://www.cnblogs.com/ludangxin/p/18913362
凛冬之怒
关注
2. LangChain4j 之AI Services
gorgor在码农
07-11 1982
LangChain4j提供了很多基础的组件，每次使用都需要你编写大量的样板代码，LangChain4j就提供了一个高级的组件AI Services，它可以简化与大模型(LLM)和其他组件交互的复杂度。让开发者更专注于业务逻辑，而不是底层的实现细节。
【AI大模型】大模型RAG技术Langchain4j 核心组件深入详解
congge
04-13 4378
大模型RAG技术Langchain4j 核心组件深入详解
langchain4j DefaultAiServices源码解析
路过君的博客
03-22 737
langchain4j DefaultAiServices源码解析
LangChain4j（10）——函数工具调用
weixin_43886636的博客
04-16 840
Tool("计算字符串的长度")@Tool("计算两个整数的和")@Tool("计算整数的平方根")@Tool用于对函数进行功能描述，这个很重要，描述的越清楚，大模型越容易考虑是否需要使用函数工具。
LangChain4j-第二篇 |实现声明式 AI 服务 AiService：简化 AI 集成新范式
u014282804的博客
04-21 1177
通过本文，我们学会了AIservice 的基本使用，基于这些LangChain4j 封装的功能，可以十分便捷的构建自己的AI 应用。资源推荐。
使用LangChain4J实现Agent与Tool调用
m0_63171455的博客
08-26 2725
OpenAI引领风潮的大语言模型（以下称为LLM）出世，给行业带来无比震撼，公众号、朋友圈、新闻与短视频App里，无不充斥着哪一家AI公司又放出效能更强大的模型之类的信息，文字生成、图像生成、音频生成、视频生成等的效果有多么令人惊叹。但LLM的行业应用、业务场景、怎么落地、如何将LLM技术融入系统之中，却一直处在被高度讨论，但多数人又摸不着门道的尴尬情况。
【langchain4j】AIservices能够实现更加灵活的chain
hiliang521的博客
11-18 1701
【langchain4j】AI service更加灵活的chain
使用langchain4j调用大模型写个聊天助手
dan_seek的博客
07-28 1978
LangChain4j是一款基于Java的高效、灵活的AI大模型应用框架，专为简化Java应用程序与LLMs（大语言模型）的集成而设计。它提供统一API和模块化设计，支持多种LLM提供商和嵌入模型，以及丰富的工具箱，如AI服务和RAG（检索增强生成）。LangChain4j通过简化集成过程，降低开发成本，助力开发者快速构建和部署AI应用。langchain4j还提供了openAI部分接口免费测试的能力，可以在没有key的情况下学习使用大模型。UI代码在文末。
LangChain4j-RAG基础
Box_clf的博客
07-27 2611
对于矢量搜索，这通常涉及清理文档，用额外的数据和元数据丰富它们，将它们分成更小的片段（也称为分块），嵌入这些片段，最后将它们存储在嵌入存储（又称为矢量数据库）中。这里需要结合官方的示例学习, Metadata算是一个很重要的东西, 可以按照我们想要的方式把不同的文档数据进行隔离和过滤, 这样可以实现私有知识库的隔离。但是，在某些情况下，最终用户可能希望上传其自定义文档，以便 LLM 可以访问它们。LangChain4j 提供了一组丰富的 API，可以轻松构建自定义 RAG 管道，从简单的管道到高级的管道。
LangChain4j入门AI（四）使用AiServices高级功能-聊天记忆
持续学习ing
05-18 1200
本文介绍了如何在LangChain4j中实现聊天记忆功能，这对于开发智能体至关重要。通过AiServices，开发者可以以声明式的方式将Java接口映射到大型语言模型（LLM）组件，从而实现对模型调用、输入输出转换、记忆管理与流式响应的高度抽象与自动化。文章详细探讨了两种会话记忆的实现方案：chatMemory和chatMemoryProvider，并通过代码示例展示了如何自定义AIService和使用AiServices构建实例来实现记忆聊天功能。此外，文章还解析了AiServices的build源码和C
二、在springboot 中使用 AIService
asd0654123的博客
04-21 1478
在上一篇文章中，我们介绍了如何使用langchain4j实现简单的问答功能，本篇文章我们将介绍如何在springboot中使用AIService。
【微服务】SpringBoot整合LangChain4j 操作AI大模型实战详解
热门推荐
congge
03-17 1万+
SpringBoot 整合 LangChain4j 操作实战详解
LangChain4j（8）：Chain多个ServiceAl
u013938578的博客
04-10 403
这里我们利用langchain4j的chain特性你让你得到更多的灵感。例如，当用户只是向LLM打招呼或说再见时，让 LLM访问数十或数百个tools的成本很高，有时甚至很危险(LLM 调用中包含的每个tools都会消耗大量token)，并且可能会导致意想不到的结果(LLM 可能会产生幻觉或被操纵以使用非预期的输入来调用tools)。关于 RAG：同样，有时需要为 LLM 提供一些上下文，但并非总是如此，因为它会产生额外的成本(更多上下文=更多token)并增加响应时间(更多上下文=更高的延迟)。
快速接入AI大模型 - Langchain4j 实战
代码洁癖症患者
05-11 5556
前面我们根据官网的文档描述，编写了一个简单的入门案例，相信你可能有点感觉了，接下来我们就来简单介绍下 Langchain4j 是什么，能做什么以及出现的背景和主要解决什么问题。en,头大了，真不上写这些没有意义的文字，，，，前面我们 既然它能和GPT交互，那我们也可以直接GPT吧。修改一下chat 方法的入参String answer = model.chat("我现在很想知道 Langchain4j 是什么，能做什么，出现的背景以及它主要是为了解决什么问题");运行main函数后我们看控制台输出的信息。
聊聊langchain4j的AiServices
go4it
03-11 499
本文主要研究一下langchain4j的AiServices。
LangChain4j（9）——AI Services基本使用2
weixin_43886636的博客
04-14 724
之前的例子中，我们只使用了String作为返回类型。❌✅上表来自。
LangChain4j流式调用、消息注解、会话记忆与Rag知识库
hguhbh的博客
06-19 351
1、@SystemMessage 为系统注解，你可以理解为为ai大模型加一个系统前提，用于修饰ai的，可以用消息注解指明ai的身份，也可以让其只回答某方面的问题。2、如果你的系统前提很多，你也可以把文本文件导在resources目录下，然后在接口注解中指明目录。运行后，访问http://localhost:8080/ai/chat1?message=你是谁。2、@UserMessage 用户消息注解，每次提问时都会加上该内容，用于修饰我们提问的内容。在转了1、2分钟的圈后，你会发现文章是一次性出现的。
生成式AI的伦理困境：深度伪造、版权与创造力归属
最新发布
Liudef06的博客
07-09 591
摘要 生成式AI技术重塑创作生态的同时，也带来三大伦理困境：深度伪造技术消解身份真实性，引发信任危机；AI生成内容的版权归属模糊，挑战传统独创性标准；AI的创造力本质引发艺术价值重估。全球立法呈现分化趋势，中国推行AI内容标识制度，美国严惩深度伪造犯罪，而日本则探索AI生成物版权归属新路径。未来需构建“技术标识+法律追责”治理体系，平衡知识共享与权利保护，在算法时代守护人类创作的主体性。
langchain4j springboot aiServices
03-08
### 集成LangChain4J与Spring Boot以提供AI服务 为了在Spring Boot项目中集成LangChain4J来提供AI服务，可以遵循以下方法： #### 1. 添加依赖项 首先，在`pom.xml`文件中加入LangChain4J库的相关依赖。这一步骤...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值