实操聆思CSK6大模型开发板接入通义千问

前言

多模态交互离不开硬件载体，近期有不少开发者在研究大模型开发板除了使用出厂示例自带的星火大模型，能不能接入文心一言、通义千问、豆包、智谱glm、kimi等国内的大模型，这个是必须支持的。但由于各家接口和数据格式不一样，有些朋友直接参考chatgpt的方式没有走通，因此本篇以聆思CSK6大模型开发板接入通义千问为例，分享具体的接入步骤，大家按照文档步骤操作即可。

由上图可见，官方当前SDK方案是把开发套件当做输入端，文字或图片内容先上传到聆思的大模型平台（LSPlatform），然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能，我们如果要使用其他大模型，只需要从云端更改大模型接入节点，而无需去修改硬件端。

实操接入通义千问

1. 新建应用

登录LSplatform，新建一个空应用，进入应用编排服务。

1. 导入工程

1. 下载工程示例： 通义千问js（提取码qaxd）
2. 导入工程示例：选择通义千问js.json文件进行导入

1. 配置参数

1.修改通义千问子流程节点参数，双击通义千问子流程节点，可以看到可配置的参数，这里主要需要修改API-KEY Host Model Stream等参数，修改完成后点击完成即可。

配置参数

（1）API-KEY：调用tongyi.aliyun的API-KEY(通义千问API获取与配置：如何获取通义千问API的KEY_模型服务灵积(DashScope)-阿里云帮助中心）

（2）Host：通义千问tongyi.aliyun.com

（3）Model：提供通义千问VL/通义千问Audio可选择，可自行添加更多模型选项。

（4）Stream：是否流式返回

1. 修改Prompt节点提示词内容（可选），根据需要修改提示词的内容。

1. 部署验证

在完成参数配置，进入完整体验之前，我们可以简单测试验证，验证是否成功调用通义千问。

（1）部署应用

部署成功以后先关闭当前编排服务

（2）重启应用

由于导入的工程示例中导入了axios包，需要重启以确保应用依赖的包完成安装。重启完成以后重新进入编排服务。

（3）测试接口，

点击注入节点，会触发一次通义千问子流程调用，观察调试节点输出日志是否正常。

至此，可以确认通义千问接入成功。如果要在硬件上验证通义千问的交互效果可以借助聆思官方提供的聆思CSK6大模型开发板，绑定开发板硬件的操作可以参考官方文档： 云端应用接入 | 聆思文档中心