Java调用LLM模型

之前逛码云的时候看到的一个基于Java的LLM框架，支持国内外多个大语言模型，使用起来也非常方便。

源码地址

源码地址: https://gitee.com/agents-flex/agents-flex

导入依赖

首先要导入依赖:

<dependency>
    <groupId>com.agentsflex</groupId>
    <artifactId>agents-flex-bom</artifactId>
    <version>1.0.0-beta.9</version>
</dependency>

封装工具类

然后可以创建一个工具类，用来封装配置并导出使用:

public class LlmUtils {
    /*
    通义千问
     */
    public static Llm QWeninit() {
        QwenLlmConfig config = new QwenLlmConfig();
        config.setApiKey("sk-7a6381ef007546f08a83d38*********");
        return new QwenLlm(config);
    }

    /*
    讯飞星火
     */
    public static Llm SparkInit() {
        SparkLlmConfig config = new SparkLlmConfig();
        config.setAppId("5230****");
        config.setApiSecret("NDc4ZDExYzRiZTMyZjliN***********");
        config.setApiKey("5629cc945b49d34d900da***********");
        return new SparkLlm(config);
    }

}

测试

测试讯飞星火大模型:

@Test
public void testSparkLlmUtils() {
    Llm chat =  LlmUtils.SparkInit();
    String response = chat.chat("有哪些姓工藤的名人？");
    System.out.println(response);
}

测试通义千问:

@Test
public void testQwenLlmUtils() {
    Llm chat = LlmUtils.QWeninit();
    String response = chat.chat("有哪些姓工藤的名人？");
    System.out.println(response);
}