react与nodejs实现流式传输,并可以进行中断(fetch聊天版)

一、前端
1.首先我们直观流的接收,后面再来流的中断

    // 创建一个新的 AbortController
      const controller = new AbortController();
     setAbortController(controller); // 保存控制器以便之后使用

     const responseStream: any = await fetch(
        "你的后端地址url",
        {
          method: "POST", // 请求方法
          headers: {
            "Content-Type": "application/json", // 根据需要设置其他头部
            Authorization: `Bearer ${localStorage.getItem("accessToken")}`, // 携带 token
          },
          body: JSON.stringify(content), // 将复杂的参数对象转换为 JSON 字符串
          signal: controller.signal, // 将取消信号传递给请求
        }
      );

2. 其中signal为前端客户端中断流连接请求的信号
3.判断流是否ok

 if (!responseStream.ok) {
        throw new Error("Network response was not ok");
      }

4.创建流的接收

 const reader = responseStream.body.getReader();
 const decoder = new TextDecoder();
 let done = false;//流是否接收完的标志
 let result = "";//拼接流

5.流的循环展示

 while (!done) {     // 持续读取流数据,直到完成
        const { value, done: readerDone } = await reader.read();
        done = readerDone;
        doneRef.current = done;//后面要用到中断流请求的参数
        result += decoder.decode(value, { stream: true });
        //此处之后可以进行你需要的逻辑操作
        //result 是一个流传输的数据,会不断接收后端传过来的数据
      }

6.如果想要实现流传输的中断

const stopStream = () => {
    doneRef.current = true;
    if (abortController) {
      abortController.abort(); // 取消请求
      doneRef.current = true;
    }
  };

7.先在你要中断流的函数中编辑 其中 abortController为你创建流式的中断器 即

    const controller = new AbortController();

      setAbortController(controller); // 保存控制器以便之后使用

8.在react中 abortController

  const [abortController, setAbortController]: any = useState(null);

二、后端

 1.设置响应头

// 设置响应头,支持流式传输
   res.setHeader("Content-Type", "text/event-stream");
   res.setHeader("Transfer-Encoding", "chunked");

2.监听客户端中断请求

 

  let isRequestAborted = false;
  // 监听客户端中断请求
  res.on("close", () => {
    if (!res.writableFinished) {
      console.log("客户端中断了请求");
      isRequestAborted = true;
      res.end();
    }
  });

3.创造流式

// 调用流式 API
   const stream = await openai.chat.completions.create({
   messages: AllChatList,
   model: "xxxxxxxxx",
   stream: true, // 启用流式响应
 });

 4.发送数据

 let aiResponse = ""; // 用于存储完整的 AI 响应
            let IsStop = 0;
            // 逐块发送数据给前端
            for await (const chunk of stream) {
              if (isRequestAborted) {
                // 如果客户端中断了请求,停止发送数据
                console.log("请求已中断,停止流式传输");
                IsStop = 1;
                break;
              }
              const content = chunk.choices[0]?.delta?.content || "";
              aiResponse += content; // 逐步收集 AI 的响应内容
              res.write(content); // 将数据块发送给前端
            }
            // 结束响应
            res.end();

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值