1. 百炼简介
阿里云的大模型服务平台百炼是一站式的大模型开发及应用构建平台。不论是开发者还是业务人员,都能深入参与大模型应用的设计和构建。可以通过简单的界面操作,在5分钟内开发出一款大模型应用,或在几小时内训练出一个专属模型,从而将更多精力专注于应用创新。
2. 模型选择
百炼提供了丰富多样的模型选择,它集成了通义系列大模型和第三方大模型,涵盖文本、图像、音视频等不同模态。
常用文本模型如下表所示:
模型类别 | 通义千问-Max | 通义千问-Plus | 通义千问-Turbo |
模型特点 | 适合复杂任务 推理能力最强 | 效果、速度、成本均衡 | 适合简单任务 速度快、成本低 |
API调用模型名 | qwen-max | qwen-plus | qwen-turbo |
最大上下文长度(Token数) | 32768 | 131072 | 131072 |
最低输入价格 (每千Token) | 0.02元 | 0.0008元 | 0.0003元 |
最低输出价格 (每千Token) | 0.06元 | 0.002元 | 0.0006元 |
其中,Token是指模型处理和生成文本时的基本单元,中文的Token通常是一个字或词,英文的Token通常是一个单词、子词或词组。
3. 百炼应用
大模型具备强大的语言能力,但仍有一定的局限性,例如难以处理私有领域问题、获取最新信息、遵循固定流程,以及自动规划复杂项目。为此,百炼推出了三种大模型应用:智能体、工作流与智能体编排,增加了知识库检索、互联网搜索、工作流设计及智能体协作等功能,显著扩展了大模型的应用范围。
3.1 智能体应用(Assistant)
是一种基于上下文对话,自主决策并调用工具来完成复杂任务的对话式 AI 应用。通过简单的配置,可以快速上手和实现基本功能。
应用场景如下:
- 客户服务:了解客户诉求,解决客户问题。如查询订单状态、处理退款。
- 个人助理:管理日程安排、提醒事项、发送邮件等。
- 技术支持:了解技术问题,提供解决方案,帮助用户排除故障。
3.2 工作流应用(Workflow)
是一种将复杂任务拆解为若干子任务,以提高工作流程可控性的流程式 AI 应用。用户可以通过拖拽节点来创建自定义的任务流程。
应用场景如下:
- AI 翻译:实现初步翻译、内容审校、再次优化的翻译流程,提升翻译质量。
3.3 智能体编排应用
是一种支持多智能体协作的流程式 AI 应用,能够编排多个智能体的执行逻辑,也可以使多个智能体自动规划和执行任务。
应用场景如下:
- 综合调研报告:组建一个报告撰写团队,包括负责写作意图识别、大纲书写、总结摘要、智能绘图、事件研判、段落撰写、文笔润色等任务的智能体。
- 软件开发团队:组建一个智能体开发团队,包括负责需求分析、系统设计、编码实现、测试调试、文档编写等任务的智能体。