fetch 获取流式数据(chatgpt的流式输出)
fetch 获取流失数据,并实时展示在页面(chatgpt的流式输出)好处:流式获取一般在用于数据量比较大的情况,一次性返回会导致前端页面加载时间过长或者请求超时等问题,这时候我们就可以考虑使用流式的方式拿到部分数据并先展示,从而提升用户体验。使用场景:在对接chatgpt 语言模型的时候采取的这种方案,因为目前的大语言的模型的结果都是需要一点点计算的,如果提出的问题比较复杂就导致响应的时间过长。背景:项目中需要获取chatgpt实时返回的数据。
原创
2023-11-19 21:58:38 ·
1781 阅读 ·
7 评论