Server-Sent Events(sse)提供流式接口遇到的坑

  chatgpt很火，最近公司也集成了相关接口，提供一些NPC功能。作为中转层也需要提供流式接口来替代现有的同步接口。流式接口这种服务端推客户端方式想着应该是websocket吧，想想就头大。看了chatgpt提供的接口感觉也不是，于是了解了下，发现使用的是sse，基于http接口实现的，类似文件下载。
  应用本身属于中转层，一方面需要对接python提供的流式接口，然后对前端提供流式接口。对接python的接口使用okhttp-sse提供的api就行。对外接口层使用spring提供的SseEmitter。发布测试环境后发现数据并不是一个一个返回，而是卡住一起返回，没有流式的效果。抓包发现应用到nginx是正常的，期间有不断的包发送。应该是被代理缓存了，在nginx上配置禁用缓存后 正常了。但这样不太友好，每次加流式接口都需要改配置。试着在响应头加标识，不让代理缓存。直接在HttpServletResponse的header里加头没效果。最后继承了SseEmitter，重写extendResponse方法生效了，nginx还是认这个头的。但这种方式也不是很优雅，spring怎么没提供相关的方法呢，还是没找到正确的方式？

protected void extendResponse(ServerHttpResponse outputMessage) {
        super.extendResponse(outputMessage);
        HttpHeaders headers = outputMessage.getHeaders();
        if (headers.getCacheControl() == null) {
            headers.setCacheControl("no-cache");
        }
        headers.set("X-Accel-Buffering", "no");
    }

  开开心心上线了，产品反馈流式接口没生效，还是阻塞然后一下全返回。直接访问应用对应的代理，接口是正常的。由于我们是内网应用，有个统一的代理层。说明问题出在统一代理层那。统一代理层是openresty，单独配置url禁用缓存后生效了。openresty版本是1.7，听说1.8 9都没问题，不过这不在范围内，就没多问了。