JAVA开发AI应用(一):调用大模型实现基本聊天

以下代码基于JBolt AI库实现

1. 引入JBoltAI库

2. 将可用的大模型作为资源,引入

ResourceCenter.registerAI("id_123", AIModel.BAI_CHUAN,"ak_xxxxxx");

以上代码就是接入了一个百川大模型的资源。

JBoltAI 还支持 OpenAI、文心、通义千问、Ollama、DeepSeek、Moonshot等多个大模型的接入。

3. 调用聊天接口

JBoltAI.chat().prompt("李白是哪个朝代的诗人?")
                .setStream(true)
                .onSuccess((e,msg) -> {
                    System.out.println("接收到:" + msg.getContent());
                }).onFail((event, error) -> {
                    System.out.println("发生异常:" + error.getMsg());
                }).publish();
        Thread.sleep(5000);
        System.out.println("结束");

以上代码就是以异步的方式,向大模型发起一个提问,并要求大模型以流式进行响应。

控制台输入的结果如下图

在流式响应模式下,大模型每成功响应一次,onSuccess回调就会执行一次。

如果大模型的响应报错了,那么整个过程就会结束,触发onFail回调

4. 如果希望以同步阻塞的方式调用聊天,并要求大模型一次性返回所有内容,可以按以下代码实现

JBoltAI.chat().prompt("李白是哪个朝代的诗人?")
                .setStream(false)
                .onSuccess((e,msg) -> {
                    System.out.println("接收到:" + msg.getContent());
                }).onFail((event, error) -> {
                    System.out.println("发生异常:" + error.getMsg());
                }).publish().await();

System.out.println("同步调用完成-标识结束");

控制台输入如下:

异步模式下,chat是在一个单独的调度线程中执行的,所以如果想在当前线程中等待chat结束,可以调用await()阻塞当前线程。

  • 3
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值