通义千问多轮对话api调用（springboot+简单前端+次数限制）

最新推荐文章于 2024-08-20 11:35:22 发布
最新推荐文章于 2024-08-20 11:35:22 发布
阅读量277 收藏 4
点赞数 3
文章标签： spring boot 前端 后端 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42181332/article/details/141167225
版权

蹭个大模型热度，创建一个简单的通义聊天机器人，前端页面通义千问自己写的。
仅供参考，参考了一部分通义api和CSDN里面大部分文章。在这里简单介绍一下。

每个ip每天允许对话20次，在20次结束后禁止继续。

效果演示：

通义千问api调用

注册啥的就不多说了，简单介绍一下代码。

依赖包如下：

    <dependencies>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-autoconfigure</artifactId>
        </dependency>


        <!--阿里巴巴大模型-->
        <!-- https://mvnrepository.com/artifact/com.alibaba/dashscope-sdk-java -->
        <dependency>
            <groupId>com.alibaba</groupId>
            <artifactId>dashscope-sdk-java</artifactId>
            <version>2.16.0</version>
        </dependency>

        <dependency>
            <groupId>io.projectreactor</groupId>
            <artifactId>reactor-core</artifactId>
        </dependency>

        <dependency>
            <groupId>com.squareup.okhttp3</groupId>
            <artifactId>okhttp</artifactId>
        </dependency>
        <dependency>
            <groupId>com.vaadin.external.google</groupId>
            <artifactId>android-json</artifactId>
            <version>0.0.20131108.vaadin1</version>
        </dependency>

    </dependencies>

前端页面很简单，一个chat按钮，弹出聊天框，然后有个聊天框。发送post请求。

<!DOCTYPE html>
<html lang="en">
<head>
    <meta charset="UTF-8">
    <meta name="viewport" content="width=device-width, initial-scale=1.0">
    <title>Chat Assistant</title>
    
</head>
<body>
    <div id="chat-button" class="chat-button">Chat</div>
    <div id="chat-container" class="chat-container hidden">
        <div class="chat-header">Chat Assistant</div>
        <div id="chat-messages" class="chat-messages"></div>
        <div class="chat-input">
            <input id="message-input" type="text" placeholder="Type your message...">
            <button id="send">Send</button>
        </div>
    </div>
	<script type="text/javascript">
		document.getElementById('chat-button').addEventListener('click', function() {
		    const chatContainer = document.getElementById('chat-container');
		    if (chatContainer.classList.contains('hidden')) {
		        chatContainer.classList.remove('hidden');
                send.removeEventListener('click', sendMessage); // 移除旧的事件监听器
                send.addEventListener('click', sendMessage); // 添加新的事件监听器
		    } else {
		        chatContainer.classList.add('hidden');
		    }
		});

        const send = document.getElementById("send")
        send.addEventListener('click', sendMessage);
        async function sendMessage() {
            const input = document.getElementById('message-input');
            const message = input.value.trim();
            if (!message) return;

            // Display the user's message first
            displayMessage(message, 'user');

            // Send the message to the server

            try {
                const response = await fetch('http://localhost:8080/ai/send1', {
                    method: 'POST',
                    headers: {
                        'Content-Type': 'application/json'
                    },
                    body: JSON.stringify({ "question":message })
                });

                if (!response.ok) {
                    throw new Error('Failed to send message');
                }

                const data =await response.json();
                console.log(data)
                if (data.output && data.output==="exit"){
                    displayMessage(data.content,"exit");

                }
                else {
                    displayMessage(data.output.choices[0].message.content,"assisent");
                }
            } catch (error) {
                console.error(error);
                displayMessage('又出问题了，卧槽.', 'error');
            } finally {
                input.value = ''; // Clear the input field
            }
        }

        function displayMessage(text, type) {
            const messagesContainer = document.getElementById('chat-messages');
            const messageElement = document.createElement('div');
            messageElement.textContent = type+':'+text;
            messageElement.className = `message ${type}`;
            messagesContainer.appendChild(messageElement);
            messagesContainer.scrollTop = messagesContainer.scrollHeight; // Scroll to the bottom
        }


	</script>
</body>
<style type="text/css">
	/* styles.css */
	.chat-button {
	    position: fixed;
	    bottom: 20px;
	    right: 20px;
	    width: 60px;
	    height: 60px;
	    background-color: #007BFF;
	    color: white;
	    border: none;
	    border-radius: 50%;
	    font-size: 16px;
	    cursor: pointer;
	    display: flex;
	    align-items: center;
	    justify-content: center;
	}
	
	.chat-container {
	    position: 0px 0px;
	    bottom: 20px;
	    right: 20px;
	    width: 300px;
	    height: 400px;
	    background-color: white;
	    border: 1px solid #ccc;
	    border-radius: 10px;
	    overflow: hidden;
	    transition: all 0.3s ease-in-out;
	}
	
	.hidden {
	    transform: translateX(-100%);
	}
	
	.chat-header {
	    background-color: #007BFF;
	    color: white;
	    padding: 10px;
	    text-align: center;
	}
	
	.chat-messages {
	    height: 300px;
	    overflow-y: auto;
	    padding: 10px;
	}
	
	.chat-input {
	    display: flex;
	    align-items: center;
	    padding: 10px;
	}
	
	.chat-input input {
	    flex-grow: 1;
	    margin-right: 10px;
	}
</style>
</html>

后端Controller类，messages是多轮对话消息对象，具体可以参考一下通义千问api。单轮和多轮的原理都是消息对象构建->参数对象构建->文本生成返回结果。在此基础上，加了一点ip限制和exit退出。

package com.vnicy_ty.controller;

import com.alibaba.dashscope.aigc.generation.Generation;
import com.alibaba.dashscope.aigc.generation.GenerationParam;
import com.alibaba.dashscope.common.Message;
import com.alibaba.dashscope.common.Role;
import com.alibaba.dashscope.exception.InputRequiredException;
import com.alibaba.dashscope.exception.NoApiKeyException;
import com.alibaba.dashscope.utils.JsonUtils;

import com.google.gson.JsonObject;
import jakarta.servlet.http.HttpServletRequest;
import jakarta.servlet.http.HttpServletResponse;

import org.json.JSONException;
import org.json.JSONObject;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Value;

import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestBody;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

import java.util.ArrayList;
import java.util.Arrays;
import java.util.List;

import com.vnicy_ty.service.IpRateService;

@RestController
@RequestMapping("/ai")
public class AiController {
    @Value("${ai-api-key}")
    private String appKey;

    private final Generation generation;
    private List<Message> messages = new ArrayList<>();
    private final IpRateService ipRateLimiter;


    //spring 注入
    @Autowired
    public AiController(Generation generation, IpRateService ipRateLimiter) {
        this.generation = generation;
        this.ipRateLimiter = ipRateLimiter;
    }

    //单轮对话
    @PostMapping("/send")
    public String aiTalk(@RequestBody String question) throws NoApiKeyException, InputRequiredException {
        // 构建消息对象
        Message message = Message.builder().role(Role.USER.getValue()).content(question).build();

        // 构建通义千问参数对象
        GenerationParam param = GenerationParam.builder()
                .model(Generation.Models.QWEN_PLUS)
                .messages(Arrays.asList(message))
                .resultFormat(GenerationParam.ResultFormat.MESSAGE)
                .topP(0.8)
                .apiKey(appKey)
                .build();

        // 执行文本生成操作，并流式返回结果
        Generation gen = new Generation();

        return JsonUtils.toJson(gen.call(param));
    }

    private static Message createMessage(Role role, String content) {
        return Message.builder().role(role.getValue()).content(content).build();
    }


    //多轮对话参数构造
    public static GenerationParam createGenerationParam(List<Message> messages, String appKey) {
        return GenerationParam.builder()
                .model("qwen-turbo")
                .messages(messages)
                .resultFormat(GenerationParam.ResultFormat.MESSAGE)
                .topP(0.8)
                .apiKey(appKey)
                .build();
    }

    //获取ip
    private String getClientIP(HttpServletRequest request) {
        String xfHeader = request.getHeader("X-Forwarded-For");
        if (xfHeader != null) {
            return xfHeader.split(",")[0];
        }
        return request.getRemoteAddr();
    }

    @PostMapping("/send1")
    public String aiTalk1(@RequestBody String question, HttpServletRequest request) throws NoApiKeyException, InputRequiredException, JSONException {
        //获取当前ip
        String clientIP = getClientIP(request);

        if (!ipRateLimiter.isIpAllowed(clientIP)) {
            JsonObject responseJson = new JsonObject ();
            responseJson.addProperty("content", "已达最大聊天次数");
            responseJson.addProperty("output", "exit");
            return JsonUtils.toJson(responseJson);
        }


        messages.add(createMessage(Role.SYSTEM, "You are a helpful assistant."));

        JSONObject temp = new JSONObject(question);
        if ("exit".equalsIgnoreCase(temp.getString("question"))) {

            JsonObject responseJson = new JsonObject ();

            responseJson.addProperty("content", "已退出聊天");
            responseJson.addProperty("output", "exit");
            this.messages = new ArrayList<>();
            return JsonUtils.toJson(responseJson);
        }
        messages.add(createMessage(Role.USER, question));
        GenerationParam param = createGenerationParam(messages, appKey);

        Generation gen = new Generation();
        return JsonUtils.toJson(gen.call(param));

    }
}

AiConfiguration类如下：

package com.vnicy_ty.dto;

import com.alibaba.dashscope.aigc.generation.Generation;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

@Configuration
public class AiConfiguration {

    @Bean
    public Generation generation() {
        return new Generation();
    }
}


IpRateService类如下，就请求次数统计和定时清除：

package com.vnicy_ty.service;

import org.springframework.scheduling.concurrent.ThreadPoolTaskScheduler;
import org.springframework.scheduling.support.CronTrigger;
import org.springframework.stereotype.Service;

import java.util.Map;
import java.util.concurrent.ConcurrentHashMap;
import java.util.concurrent.atomic.AtomicInteger;


@Service
public class IpRateService {

    private final Map<String, AtomicInteger> ipCounters = new ConcurrentHashMap<>();
    private final ThreadPoolTaskScheduler taskScheduler;

    public IpRateService(ThreadPoolTaskScheduler taskScheduler) {
        this.taskScheduler = taskScheduler;
        scheduleDailyCleanup();
    }

    public boolean isIpAllowed(String ip) {
        AtomicInteger counter = ipCounters.computeIfAbsent(ip, k -> new AtomicInteger(0));
        int count = counter.incrementAndGet();

        System.out.println("-----");
        System.out.println("Request from IP "+ ip+": Count is now "+ count);
        System.out.println("-----");

        if (count > 20) {
            return false; // 已达到限制次数
        }

        return true;
    }

    private void scheduleDailyCleanup() {
        Runnable cleanupTask = this::cleanupExpiredRecords;
        taskScheduler.schedule(cleanupTask, new CronTrigger("0 0 0 * * ?")); // 每天凌晨0点运行
    }

    private void cleanupExpiredRecords() {
        ipCounters.clear(); // 每天清空一次
    }
}

最后是TaskSchedulerConfig类，Ip设置的时候需要用到

package com.vnicy_ty.dto;

import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.scheduling.concurrent.ThreadPoolTaskScheduler;

@Configuration
public class TaskSchedulerConfig {

    @Bean
    public ThreadPoolTaskScheduler taskScheduler() {
        ThreadPoolTaskScheduler scheduler = new ThreadPoolTaskScheduler();
        scheduler.setPoolSize(1); // 根据需要调整线程池大小
        scheduler.initialize();
        return scheduler;
    }
}

最后就是api-key配置【application.properties文件】

ai-api-key = 自己的api-key

github地址：

GitHub - Vnicy/TongYichat: 通译千问api调用的聊天机器人

百无一用是也
关注
在springboot项目中调用通义千问api多轮对话并实现流式输出
qq_56460466的博客
03-03 4188
关于流式调用通义千问并实现多轮对话
山东大学软件学院创新实训（二）——使用通义千问API实现多轮对话
m0_55518439的博客
05-09 440
我们的程序之前的Serviceapi.java中实现了调用api实现单次对话，但这显然无法满足我们的需求。。想要通过其示例程序实现多轮对话。其示例程序如下。在这段代码中，方法用于创建并返回一个对象。这个对象包含了生成对话所需的参数，比如模型、消息列表、结果格式等。方法用于调用生成对话的功能，并返回一个对象，其中包含生成的结果。方法用于创建一个包含特定角色和内容的消息对象（Message。
AI大模型企业应用实战：Prompt让LLM理解知识
2401_84204413的博客
06-25 1517
• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；
RAG-使用LangChain结合通义千问API基于自建知识库的多轮对话和流式输出
一个学长的博客
02-19 7183
系列的第三篇文章，前两篇分别介绍了通义千问API的使用和LangChain自建知识库，现在实现对自建知识库的多轮对话和流式输出。
java对接阿里云通义千问API多轮对话承接上下文
woshiabc111的博客
11-28 2083
通义千问多轮对话
SpringBoot整合Qwen(通义千问)模型API进行多轮对话
leehoward
04-17 1639
在阿里云注册账号，申请api-key。
基于SpringBoot+Vue的学生选课管理系统的毕业设计，Vue+SpringBoot+MybatisPlus+MySQL
03-24
该系统实现了学生选课、退课、课程管理、学生管理等功能,采用前后端分离的模式,前端使用Vue框架,后端使用SpringBoot框架。 后端使用SpringBoot+MybatisPlus+MySQL实现,主要包括CourseController、StudentController...
qt实现的调用通义千问+文心一言大模型API的可执行程序，免安装，解压即可使用
02-10
4.完成调用阿里云的通义千问大模型API接口，并设计一个多显示控件的窗口 5.重新调整了代码的架构，按照：UI响应、https请求管理、大模型数据管理的架构设计。其中UI响应和https请求管理的两个类除了基本的初始化函数...
springboot+mybatis+sqlserver 仓库管理系统
05-27
6. 前端界面：使用MiniUI组件设计交互界面，通过Ajax调用后端API实现功能。 7. 测试与优化：进行单元测试和集成测试，确保系统功能正常，然后根据性能优化建议进行调整。 总结，这个仓库管理系统充分利用了...
SpringBoot +esapi 实现防止xss攻击 实战代码，满满干货
06-08
SpringBoot是一个流行的Java微服务框架，而ESAPI（Enterprise Security API）则是一个开源的安全库，旨在提供一种简便的方式来防御多种Web应用安全问题，包括XSS攻击。本实战代码将展示如何结合SpringBoot和ESAPI来...
springboot+mybatis+thymeleaf实现简单的留言板
08-01
在本项目中，我们利用SpringBoot、MyBatis和Thymeleaf三个核心框架来构建一个简单的留言板系统。SpringBoot以其便捷的初始化和配置方式，为开发者提供了快速开发Web应用的可能；MyBatis作为持久层框架，简化了SQL...
Spring AI 连续对话
偶尔记一下 - mybatis.io
03-28 1465
在前面中我们只调用了一次请求，返回了一个结果，我们见过的各种 chat 都是支持连续对话的，AI 需要记住我们的上下文才能让对话连贯起来，通过 API 调用的时候每次对话都是一次无状态的独立请求，想要实现连续对话就需要我们自己记住对话的历史，在每次调用 API 的时候将对话历史传递给 API。本文就简单实现连续对话，并且引申一些相关的扩折或者优化。
《通义千问AI落地—中》：前端实现
最新发布
My52Hz
08-20 1424
上文中，我们介绍了`通义千问AI落地`的后端接口。那么，接下来我们将继续介绍前端如何调用接口以及最后的效果；首先看效果：上述就是落地到本微博客以后的页面效果，由于是基于落在现有项目之上，因此什么登录注册等基本功能都省去了，言归正传，下面我们将正式介绍通义千问AI落地的前端实现。
python 调用通义千问api详细教程
IT技术博客
07-30 2473
模型系列模型名称模型简介模型输入/输出限制通义千问-Turboqwen-turbo通义千问超大规模语言模型，支持中文、英文等不同语言输入。模型支持8k tokens上下文，为了保证正常的使用和输出，API限定用户输入为6k tokens。通义千问超大规模语言模型，支持中文、英文等不同语言输入。该模型为qwen-turbo的2024年2月6号的历史快照稳定版本，仅推荐特定需求客户访问。通义千问超大规模语言模型，支持中文、英文等不同语言输入。
通义千问（Qwen-VL）本地微调
Guet142021的博客
03-11 5109
官方上给的对话是一次对话给一个框的信息，但是如果一张图有多个框就需要多次对话。经过测试发现对话轮数越多训练时间也越长，并且测试后发现貌似一个id好像仅限6轮对话（不确定），所以需要根据自己的数据进行修改。修改finetune/finetune_qlora_single_gpu.sh中的一些设置，其中主要修改标红部分，其他参数自己设当调整。在这里可以选择多种下载方式，然后根据自己的显存选择合适的，我是选择最小的Int4的量化模型，但是我参照使用git命令行下载会下载不了不知为何，最后还是自己手动下载到本地。
零基础尝试调用通义千问API的过程记录
weixin_42398461的博客
03-18 6945
使用了通义灵码插件后，感觉非常不错，因此想尝试调用通义灵码的API。但在寻找了一段时间后，并未找到相关API。于是，我转向尝试使用通义千问，经过搜索，在阿里云的DashScope灵积模型服务中找到了通义千问提供的API。
从零开始 通义千问大模型本地化到阿里云通义千问API调用
热门推荐
风吹落叶的博客
11-16 1万+
通义千问大模型”是阿里云推出的一个超大规模的语言模型，具有强大的归纳和理解能力，可以处理各种自然语言处理任务，包括但不限于文本分类、文本生成、情感分析等。此模型能够极大地提高了自然语言处理的效率和准确性，给用户提供了一种新的、简便的工具。
国内的几款强大的智能AI语言模型
weixin_46414659的博客
07-11 1038
【代码】国内的几款强大的智能AI语言模型。
微信小程序对接通义千问
07-20
微信小程序对接通义千问主要是为了提供一种智能服务和交互体验。通过集成通义千问的能力，微信小程序开发者可以将自然语言理解和生成技术融入到自己的应用中，比如添加一个聊天机器人功能，用户可以直接在小程序里提问，获取相关的解答或信息。这种集成通常涉及API调用、事件触发以及前端界面设计，允许小程序与人工智能平台顺畅交互。然而，具体的接入步骤和技术细节需要参考微信小程序官方文档或阿里云的相关文档来进行配置。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值