使用post请求建立长连接实现sse,接收后端主动发来的消息,实现chat-gpt的弹字效果,EventSource的应用

最近在做一个chat相关的功能,然后由于接口返回特别特别慢,所以需要搞一个慢慢等待的效果,就是接口一个单词一个单词的返回,然后前端收到一个展示一个,提升用户体验。

看其他文档都说使用EventSource即可,就是传说中的sse【server-send-events】。记录下使用方法。

import { fetchEventSource } from '@microsoft/fetch-event-source'
  getStream(payload: any, url: string) {
    const token = access_token;

    let that = this;

    let headers: any = {
      Authorization: `Bearer ${token}`,
    };
    if (url == 'content') {
      headers = {
        'Content-Type': 'application/json',
        Authorization: `Bearer ${token}`,
      };
    }
    try {
      this.fetchSource = fetchEventSource(
        `${serviceUrl}/api/v1/${url}`,
        {
          method: 'POST',
          headers: headers,
          signal: this.ctrl.signal,
          openWhenHidden: true,
          body: url == 'summarize-content' ? JSON.stringify(payload) : payload,
          async onopen(response) {
            that.output = '';
            if (
              response.ok &&
              response.headers.get('content-type') ===
                'text/event-stream;charset=utf-8; charset=utf-8'
            ) {
              // everything's good
              console.log("everything's good");
            } else if (
              response.status >= 400 &&
              response.status < 500 &&
              response.status !== 429
            ) {
              console.log('request error');
            } else {
              console.log('error');
            }
          },

          async onmessage(event) {
            if (event) {
              const json_data = JSON.parse(event.data);
              that.output += json_data.text;
              that.outputSummary = marked(that.output);
              that.scrollChatToBottom();
            }
          },

          onerror(error) {
            console.error('Error:', error);
          },

          async onclose() {
            // if the server closes the connection unexpectedly, retry:
            console.log('close');
          },
        }
      );
    } catch (err: any) {
      if (err.name == 'AbortError') {
        console.log('Aborted!');
      } else {
        console.log(err);
      }
    }
  }

  stopAI = () => {
    this.ctrl.abort();
    this.ctrl = new AbortController();
    this.showStop = false;  
};

// div滚动条自动滚动到最下面
  scrollChatToBottom() {
    this.cd.detectChanges();
    var scrollingDiv = document.getElementById('outputDiv');
    if (scrollingDiv) scrollingDiv.scrollTop = scrollingDiv.scrollHeight;
  }

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值