要想通过API接口调用文心一言大模型,需要使用百度千帆大模型平台,这里介绍一下百度千帆大模型平台的快速入门使用
Step1:数据导入
- 需要您在左侧功能栏选择“数据集 > 通用数据集”,进入数据总览界面,选择创建数据集。
- 进入“创建数据集”界面,填写数据集名称后,数据类型选择prompt+response类型,选择平台存储,选择关闭手动构建,可以直接上传文件。
3.您也可以创建数据集后,再导入数据。按实际需求填写导入方式以及对应的格式或路径,上传无标注文件或者链接内容等,确认即可。
更多操作,可见数据服务使用说明。
Step2:数据标注
在数据集列表中,找到以上创建的数据集,点击操作列的“标注”按钮。当光标移动至回答框,会有“自动生成”按钮,回答支持调用平台的LLM模型为问题生成对应回答,可在左上角切换模型。
- 您可以选择自动生成回答或手动生成回答,回答生成后“保存标注”即可。
- 标注好的文本数据,将会在“有标注信息”页签下展示。
更多操作,可见在线标注使用说明。
Step3:训练配置
- 需要您在左侧功能栏中选择“模型精调 > SFT”中创建调优任务,调整训练配置及参数(BLOOMZ-7B为例),不开启增量训练。
- 选择Step1中创建的数据集进行导入,并填入数据拆分比例。
3.以上步骤都完成后,点击“确定”按钮,即可进入自定义模型的训练,当任务详情中的模型运行显示“运行完成”,则表示模型训练成功。
更多操作,可见SFT任务使用说明。
Step4:模型纳管
选择Step3运行中的“发布”,填写新模型发布相关内容,将模型纳入模型管理模块。
更多操作,可见本章模型管理内容。
Step5:发布服务
- 需要您在左侧功能栏中选择“模型服务 > 在线服务”,选择“创建服务”按钮,或者直接在Step4模型详情中的版本列表页,选择指定模型“部署”。
- 按照实际需要,进行服务配置和资源配置。
- 发布成功后,“模型服务 > 在线服务”中即可列表展示服务内容。
发布服务到私有资源池,通过API接口调用模型。更多操作,可见在线服务使用说明内容。