openai类sse流式请求报错httpx.ReadTimeout: The read operation timed out
这表示流式过程中的下一个块没有在规定时间内read出来,可能由于奇奇怪怪的原因总有个别请求中途出错,如果不设置read的超时时间在openai库中会设置成和timeout一样的时长,进而阻塞我们整体的响应时长,极大的音效体验。这里没有设置read参数,所以httpx库会设成和timeout一样的数值,你可以在创建openai类的时候手动设置timeout数值,比如。这里我read设的20s,大家可以自行调节。这是openai默认的超时设置。
原创
2024-05-10 15:57:18 ·
240 阅读 ·
0 评论