
Azure APIM 多模型智能路由:从 Chat Completions 到 Responses API
Responses API 是,模型在 JSON 的model字段。APIM 的对后一种是空串,请求掉进otherwise,打到默认区域——该区域若没部署这个模型,就是。多区域还要处理:新模型只在部分区域首发、多轮对话要粘滞、429 要切池内另一个后端。本文写路由怎么抽、怎么分池;retry 子策略「第一轮就执行」见同目录另一篇,这里不重复展开。URL 与 body 两套提取,统一写进用前缀 / 后缀分池,少写枚举,否则后端收到空 body适合已经有 APIM + 多个 AOAI 后端的中级运维。



