wiresahrk-SSE(Server-Sent Event)调用过3秒延迟才响应

一、现象描述

背景: 某客户使用SSE 来实时流式返回数据,很ChatGPT 流式返回数据一样,简单来讲就是客户端请求一次,服务端每1秒回复一次。
但是服务器上log又是秒级回复,猜测是被中间节点缓存了响应,等响应完全才回复给客户端

找不出问题甩锅网络—当前开发现状

二、故障分析

按照常规套路,理清链路:
PC-F5-WAF-APISIX-POD

首先F5没有缓存机制,可以排除F5,但是F5有特殊抓包命令,可以抓前后全部数据,
在这里插入图片描述
从数据包可以看到,F5请求转发非常快,
在这里插入图片描述
从上图看,数据包30是请求包。响应包是991。中间隔了2分40秒。
再对应一下F5和waf之间的交互
在这里插入图片描述
如上图,时间对的上,那么问题基本就在waf和apsix上了;

经过排查应用配置resonse header主动关闭apisix缓存机制
‘Content-Type’: ‘text/event-stream’,
‘Connection’: ‘keep-alive’,
‘Cache-Control’: ‘no-cache’,
‘X-Accel-Buffering’: ‘no’
};
参考:https://www.nginx.com/resources/wiki/start/topics/examples/x-accel/#x-accel-buffering

关闭后,发现还是不行,再看看waf,waf需要挂逼http响应处理。

整体解决:
1,apisix需要主动回复 ‘X-Accel-Buffering’: 'no’给waf;
2,waf需要关闭http 响应处理,两者结合起来才能生效;

备注:
1,waf代理模式部署,底层也是ng
2,从f5-client和f5-server 数据包发现,当服务器响应时间比较长是,客户端浏览器会发送tcp keep-alive数据给F5,因为F5是全代理模式,所以F5不会把这种状态包传给服务器,所以不要被这种状态包F5没转发,所误导。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
OkHttp SSE 是一个用于处理 Server-Sent Events(SSE)的库。Server-Sent Events 是一种允许服务器向客户端推送事件的协议。通过使用 OkHttp SSE,你可以方便地处理 SSE 事件流并与服务器进行实时通信。 你可以使用 OkHttp SSE 来订阅服务器端的事件流,并在接收到事件时执行相应的操作。它提供了一些方便的方法来处理 SSE 事件,如连接服务器、接收事件、处理注释等。 以下是使用 OkHttp SSE 的基本示例代码: ```java OkHttpClient client = new OkHttpClient(); Request request = new Request.Builder() .url("https://example.com/events") .build(); EventSource eventSource = new EventSource(request, new EventSourceListener() { @Override public void onEvent(EventSource eventSource, String id, String type, String data) { // 处理接收到的事件 System.out.println("Received event: " + data); } @Override public void onFailure(EventSource eventSource, Throwable t, Response response) { // 处理连接失败或接收事件发生错误的情况 t.printStackTrace(); } }); // 开始连接服务器并订阅事件 eventSource.start(); ``` 上述代码首先创建了一个 OkHttpClient 对象,并构建了一个发送 SSE 请求的 Request 对象。然后,创建了一个 EventSource 对象,并实现了 EventSourceListener 接口来处理接收到的事件和错误情况。最后,调用 `eventSource.start()` 方法开始连接服务器并订阅事件。 希望这能够回答你的问题!如果你有任何进一步的问题,请随时提问。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值