关于微软azure openai接口调用的问题记录

在进行azure的配置时,涉及到几个重要的概念:
学生认证之后会送100USD
部署(deployment)是自定义名称的,每个部署可以选择不同的模型
模型(model)是针对一个部署来讲,通常可选gpt-4,gpt-3.5turbo等

1.注意!上述的“model”与在项目中调用时所填内容不一样,用azure所提供的接口时,

项目中的model一般只写部署名,因为部署与所用的模型是一一对应的

2.有时会有报错说:xml.etree.ElementTree.ParseError: no element found: line 90, column 32

经测试,大概率是因为azure的接口限速所导致的,因为限速1000

而原来的代码里设置的max_token为4096,会导致模型的输出不完整,从而使xml格式错误

如何解决:azure好像只能给学生用户1000的速率,不知道怎么改

那么是否可以改用deepseek的接口?这样效果可能会更好

或者本地部署LLM??

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值