一、API 简介
Yi Model API 支持使用以下 Yi 系列模型。
1.1 大语言模型
模型名 | 模型简介 | 上下文长度 | 优势 |
---|---|---|---|
yi-34b-chat-0205 | 支持聊天、问答、对话、写作、翻译等功能。 | 4K | 在开源版 yi-34b-chat-1123 的基础上,优化了诸多性能,尤其是指令遵循能力(提升了近 30%),并降低了模型回复的延迟。 关于 yi-34b-chat-1123 与 yi-34b-chat-0205 Prompt 性能对比,参阅「 指令遵循对比测评 」。 |
yi-34b-chat-200k | 增强了问答对话交互和深度内容创作能力。 文档问答和构建知识库小能手。 |
200K | 超长上下文。 200K 支持处理约 30 万个中文汉字(≈ 1 本《三体》)或 30 万个英文单词,适合用于多篇文档内容理解、海量数据分析挖掘和跨领域知识融合等,具体应用场景包括长篇小说阅读理解、学术论文归纳总结、金融报告分析预测和法律条文精准阐释等。 |
1.2 视觉语言模型
模型名 | 模型简介 | 上下文长度 | 优势 |
---|---|---|---|
yi-vl-plus | 支持通用图片问答、图表理解、OCR、视觉推理,能处理高分辨率(1024*1024)的图像,能在复杂视觉任务上提供优秀性能,同时支持多种语言。 | 4K | yi-vl-plus 在 yi-vl-34b 的基础上:
|
二、API 优势
2.1 兼容 OpenAI
- Yi Model API 与 OpenAI API 完全兼容,你只需修改少量代码,可以平滑迁移。
2.2 推理速度快
- 为了提升 API 性能,我们在 API 侧进行了推理优化,因此 yi-34b-chat 系列 API 具备较快的推理速度,这不仅缩短了处理时间,同时也保持了出色的模型效果。此外,优化的 API 接口显著降低了模型回复的延迟,进一步提高了用户体验的流畅性和响应速度。
三、调用方法:
3.1、获取APIkeys网址:
3.2、安装 Python SDK
注意:需安装 Python SDK 1.0 之后的版本。
pip install openai