【大模型】基于大模型聊天websocket断掉重连的问题

本文讨论了在大模型聊天场景中,如何处理因网络不稳定导致的WebSocket连接中断问题,提出了重新连接并利用sessionID保持会话连续性的解决方案,包括继续传输sessionID、询问未完成的问题以及清除并替换部分回复内容。
摘要由CSDN通过智能技术生成

业务场景:

基于大模型聊天场景下,页面一般与服务端是通过websocket建立的连接,服务端再与大模型建立连接。
由于网络不稳定的情况下,页面与服务端的websocket会容易发生请求中断,有时候服务端在往页面推送消息的时候,只是展示了一半就终止了。

问题分析:

通过上述的业务场景描述,网络稳定性不一定好控制,但是问题核心在于websocket断掉了,
那么断掉就要重连,并且还有接上之前的输出,这种情况又该如何处理呢?

解决方案:


1、无可厚非,重新连接websocket这个是肯定要做的。
2、关键是如何能够和之前的会话能够衔接呢?
    1)、继续要传之前的sessionID,
    2)、重新向大模型问没有回复全的答案的那个问题
    3)、基于第2点的前提下,页面擦除掉回复一半的那个文本,替换第2点大模型回复的内容
    
通过上述2大点的方法,用户就可以感受到连贯性了~

WebSocket断掉的原因有很多。引用提到,在WebSocket断开时,可以通过打印错误信息来获取更多的细节。可以使用WebSocket对象的onclose事件监听器来获取这些信息。例如,可以通过以下代码将错误信息打印出来: ws.onclose = function (e) { console.log('websocket断开: ' + e.code + ' ' + e.reason + ' ' + e.wasClean); console.log(e); } 引用中也提到了类似的做法,在断开时打印错误信息。此外,引用中指出,CloseEvent的code字段可以用来表示WebSocket断开的原因,可以进一步分析该字段以获取更多有关断开原因的信息。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [WebSocket刷新断开原因、设计心跳机制防止自动断开连接](https://blog.csdn.net/tianshan2010/article/details/106317081)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [WebSocket断开原因](https://blog.csdn.net/xiuxiuzhuanshu/article/details/102982309)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

疯癫的老码农

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值