如何接入文心一言AI模型
完整介绍文心一言如何接入到业务系统中,帮助业务系统增加模型具有的智能功能、对话功能、机器人功能。
本文应用场景,文心一言分析体检报告异常项目并给出建议。
文章目录
前言
要如何接入文心一言呢,百度的文心一言是可以免费接入的,下面接介绍如何接入文心一言的模型,并提供接口给业务系统使用。文心一言企业服务由千帆大模型平台提供,包括推理服务及大模型微调等一系列开发和应用工具链。。
一、接入流程
- 注册百度账户,登录百度智能云千帆控制台
- 创建千帆应用
- 获取AppID、API Key、Secret Key
- 选择提供服务的模型
- 接入token接口
- 接入问答接口
- 开发接口提供给业务系统
二、获取文心一言AppID、API Key、Secret Key
1. 创建千帆应用
登录百度智能云:https://cloud.baidu.com/
2. 创建千帆应用
创建应用后,会生成API Key、Secret Key
3. 选择模型
选择文心一言中提供的李开复零一万物Yi-34B-Chat。
根据2023年底发布的《SuperCLUE中文大模型基准评测报告 2023》,11月下旬首度发布的 Yi-34B
Chat,迅速晋升到和诸多国产优秀大模型齐平的 “卓越领导者” 象限,在多项基准评测中的 “SuperCLUE 大模型对战胜率”
这项关键指标上,Yi-34B-Chat 取得31.82%的胜率,仅次于GPT4-Turbo。
三、接入模型接口
1. 生成token
请求该地址填入相应的key即可获取token
https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=【API Key】&client_secret=【Secret Key】
/**
* 从用户的AK,SK生成鉴权签名(Access Token)
*
* @author Yuperman
*/
public String getAccessToken(){
String API_KEY = "O4d4mNSIt0GsAIe7E0JQ6rmY";
String SECRET_KEY = "5gVOrkYkR2y4XMa22PeyrH9caHUYvGnF";
String url = "https://aip.baidubce.com/oauth/2.0/token";
String param= "grant_type=client_credentials&client_id=" + API_KEY
+ "&client_secret=" + SECRET_KEY;
MediaType mediaType = MediaType.parse("application/x-www-form-urlencoded");
RequestBody requestBody = RequestBody.create(mediaType,param);
Request request