废话不多说直接上思路
这是我在做助理流式输出所遇到的问题,希望你不要遇到
开始的想法就是直接把用户的流直接对接到openai的返回流上了,
这样满足不了工具接口的调用,并且openai需不需要调用工具并不是确定的,所以不要被以前的对话方式给误导了,
现在采用中间流做控制,需要给用户时在转发,需要处理工具的时候就收集信息
还有一个就是我是java调用操作数据没有那么方便,不像python,没有数据类型的概念
openai给的流数据是多种的 我们只需要关注两种类型的就可以了
1.流类型是thread.message.delta, 这种的就是需要给用户返回的
2.流类型是thread.run.requires_action,这种的就是需要调用工具的
希望可以帮助到大家. 不要在趟我已经趟过得路了,感觉有帮助,就点个赞呗! 有问题联系我QQ:375823591
【Chat GPT 助理Assistant 流式输出 使用工具】
于 2024-04-02 11:28:40 首次发布