在进行azure的配置时,涉及到几个重要的概念:
学生认证之后会送100USD
部署(deployment)是自定义名称的,每个部署可以选择不同的模型
模型(model)是针对一个部署来讲,通常可选gpt-4,gpt-3.5turbo等
1.注意!上述的“model”与在项目中调用时所填内容不一样,用azure所提供的接口时,
项目中的model一般只写部署名,因为部署与所用的模型是一一对应的
2.有时会有报错说:xml.etree.ElementTree.ParseError: no element found: line 90, column 32
经测试,大概率是因为azure的接口限速所导致的,因为限速1000
而原来的代码里设置的max_token为4096,会导致模型的输出不完整,从而使xml格式错误
如何解决:azure好像只能给学生用户1000的速率,不知道怎么改
那么是否可以改用deepseek的接口?这样效果可能会更好
或者本地部署LLM??