40并发持续了1.5小时,样本数量为17655,错误率如下:
502问题占了16.24%
响应时间分位数如下:
90%分位数响应时间已经达到了21.31秒,耗时较长。
查看502请求URL的uuid发现,对应的请求日志中的spent都大于20秒,例如,20707毫秒。后来确认API的超时时间是20秒,压测过程中AI服务到服务端API的时间大于20秒,超过了服务端API设置的超时时间20秒,这样服务端API就不会返回数据了,超时关闭了TCP链接,造成502.
修复:服务端修改了API的超时时间并优化了读取响应的方法问题解决。