前言
多模态交互离不开硬件载体,近期有不少开发者在研究大模型开发板除了使用出厂示例自带的星火大模型,能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型,这个是必须支持的。但由于各家接口和数据格式不一样,有些朋友直接参考chatgpt的方式没有走通,因此本篇以聆思CSK6大模型开发板接入智谱AI:ChatGLM为例,分享具体的接入步骤,大家按照文档步骤操作即可。
由上图可见,官方当前SDK方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。
实操接入智谱AI ChatGLM
1.新建应用
登录LSplatform,新建一个空应用,进入应用编排服务。
2.导入工程
- 下载工程示例: ChatGLMjs(提取码qaxd)
- 导入工程示例:选择ChatGLMjs.json文件进行导入。
3.配置参数
1.修改glm子流程节点参数,双击glm子流程节点,可以看到可配置的参数,这里主要需要修改API-KEY Host Model Stream等参数,修改完成后点击完成即可。
配置参数
(1)API-KEY:调用的open.bigmodel.cn的API-KEY GLM-api-key获取方法:智谱AI开放平台
(2)Host:htttp://www.open.bigmodel.cn/
(3)Model:提供glm4,可自行添加更多模型选项。
(4)Stream:是否流式返回
glm子流程节点默认封装了访问open.bigmodel.cn的api/paas/v4/chat/completions接口,若需要调用open.bigmodel.cn的其他接口则需要修改子流程节点代码。
2.修改Prompt节点提示词内容(可选),根据需要修改提示词的内容。
4.部署验证
在完成参数配置,进入完整体验之前,我们可以简单测试验证,验证是否成功调用ChatGLM。
(1)部署应用
部署成功以后先关闭当前编排服务
(2)重启应用
由于导入的工程示例中导入了axios包,需要重启以确保应用依赖的包完成安装。重启完成以后重新进入编排服务。
(3)测试接口
点击注入节点,会触发一次glm子流程调用,观察调试节点输出日志是否正常。
(4)回到应用列表
找到并双击当前应用,在弹出的应用详情页面点击右上角分享按钮进入web对话页面。
(5)在web对话面与ChatGLM进行对话
至此,可以确认智谱AI:ChatGLM接入成功。如果要在硬件上验证ChatGLM的交互效果可以借助聆思官方提供的聆思CSK6大模型开发板,绑定开发板硬件的操作可以参考官方文档: 云端应用接入 | 聆思文档中心
聆思CSK6大模型开发板接入智谱AI:ChatGLM的完整流程可参考手把手教你用聆思CSK6大模型开发板接入智谱清言:ChatGLM-CSDN博客