【ESP32接入国产大模型之文心一言】

已于 2024-03-18 21:30:24 修改
阅读量6.2k 收藏 154
点赞数 60
分类专栏： arduino学习 文章标签： 文心一言 Arduino esp32
于 2024-01-04 10:05:08 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/vor234/article/details/135372118
版权

1. 怎样接入文心一言

视频讲解：

【ESP32接入国产大模型之文心一言】

【ESP32接入国产大模型之MiniMax】
【ESP32接入语言大模型之智谱清言】
【ESP32接入国产大模型之文心一言】
【ESP32接入语言大模型之通义千问】

下面是不标准测评，参考而已

模型响应时间内容质量免费token次数地址
MiniMax3s8分500万https://www.minimaxi.com/
智谱清言7s8分300万https://open.bigmodel.cn/
文心一言10s9分500万https://cloud.baidu.com/doc/WENXINWORKSHOP/s/Nlks5zkzu
通义千问8s8分800万https://tongyi.aliyun.com/qianwen/

随着人工智能技术的不断发展，自然语言处理领域也得到了广泛的关注和应用。在这个领域中，文心一言作为一款强大的自然语言处理工具，具有许多重要的应用价值。本文将重点介绍如何通过ESP32接入国产大模型之文心一言api，以及其中的重点词汇或短语。
在这里插入图片描述

1.1 了解文心一言

文心一言是百度打造出来的人工智能大语言模型，具备跨模态、跨语言的深度语义理解与生成能力，文心一言有五大能力，文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成，其在搜索问答、内容创作生成、智能办公等众多领域都有更广阔的想象空间。文心一言企业服务由千帆大模型平台提供，包括推理服务及大模型微调等一系列开发和应用工具链。文心一言大模型现已升级至4.0，企业客户可通过百度智能云千帆大模型平台申请接入。

1.2 接入文心一言

API 列表
百度智能云千帆平台提供了丰富的API，保留对话Chat、续写Completions、向量Embeddings、插件应用、Prompt工程、大模型训练、管理及服务等API能力，详情请查看API列表。

  1. 大模型相关
  • 对话Chat：支持创建chat，用于发起一次对话。
  • 续写Completions：支持创建completion，用于发起一次续写请求，不支持多轮会话等。
  • 向量Embeddings：支持Embeddings，用于根据输入内容生成对应的向量表示。
  • 自定义模型导入：支持HuggingFace Transformer架构的自定义模型导入，提供自定义模型导入相关API能力。
  • 图像Images：提供图像相关API能力。
  1. 插件应用：提供域内知识搜索增强插件API相关能力。
  2. Prompt工程：提供模版相关API能力。
  3. 大模型训练：提供创建训练任务、任务运行、停止任务运行及获取任务运行详情等API能力。
  4. 大模型管理：提供获取模型、模型版本详情及将训练任务发布为模型等API能力。
  5. 大模型服务：提供创建服务、获取服务详情等API能力。

1.3 API 调用流程简介

API 的调用流程如下图所示。

image.png

  1. 创建一个千帆应用。根据实际需求创建千帆应用，创建成功后，获取AppID、API Key、Secret Key 等信息。
  2. API 授权。对应用的 AppID 进行授权。
  3. 获取接口访问凭证 access_token 。根据第1步获取的 API Key 和 Secret Key ，调用获取access_token接口获取 access_token ，通过 access_token 鉴权调用者身份。
  4. 调用API接口。例如调用ERNIE-Bot相关接口，详见API列表。

1.4 API 调用流程

1.4.1 步骤一. 创建千帆应用

（1）登录百度智能云千帆控制台。

请您注册并登录百度智能云千帆控制台 。

在这里插入图片描述

注意：为保障服务稳定运行，账户最好不处于欠费状态。

（2）创建千帆应用

进入控制台创建应用 。

在这里插入图片描述

（3）创建应用后，获取AppID、API Key、Secret Key。

在这里插入图片描述

1.4.2 步骤二. 服务授权

应用创建后，选择对应授权的公有云服务。
在这里插入图片描述

1.4.3 步骤三. 调用API接口

调用千帆提供的相关接口，如ERNIE-Bot等，详见API列表。

  1. ERNIE-Bot
    我们选择ERNIE-Bot：ERNIE-Bot是百度自行研发的大语言模型，覆盖海量中文数据，具有更强的对话问答、内容创作生成等能力。

在这里插入图片描述

  1. 在线调试
    百度智能云千帆提供了 API在线调试平台-示例代码 ，用于帮助开发者调试接口，平台集成快速检索、查看开发文档、查看在线调用的请求内容和返回结果、复制和下载示例代码等功能，简单易用，更多内容请查看API在线调试介绍。
    在这里插入图片描述

  2. 获取AccessToken

应用列表选择自己创建的《ESP32语音聊天助手》，采用C#示例代码，
在这里插入图片描述
然后点击调试，复制获取的AccessToken：24.7cc213f615669e6191cf3f65fad26ed2.2592000.1706881758.282335-46332156
在这里插入图片描述
1处粘贴上面的AccessToken，在2处中括号中输入

“role”:“user”,“content”:“介绍一下你自己”

在这里插入图片描述
调试结果如下
在这里插入图片描述
查看C#代码需要三部分代码
在这里插入图片描述

"https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=24.7cc213f615669e6191cf3f65fad26ed2.2592000.1706881758.282335-46332156"
"Content-Type", "application/json"
"{""messages"":[{""role"":""user"",""content"":""介绍一下你自己""},{""role"":""assistant"",""content"":""您好，我是文心一言，英文名是ERNIE Bot。我能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。""}],""disable_search"":false,""enable_citation"":false}"

2. 先决条件

在继续此项目之前，请确保检查以下先决条件。

我们将使用 Arduino IDE 对 ESP32/ESP8266 开发板进行编程，因此在继续本教程之前，请确保已在 Arduino IDE 中安装这些开发板。

2.1 环境配置

  1. Arduino IDE：下载并安装 Arduino IDE；
  2. ESP32 开发板库：在 Arduino IDE 中添加 ESP32 支持；
    参考博客：【esp32c3配置arduino IDE教程】
    为安装过程留出一些时间，具体时间可能因您的互联网连接而异。

2.2 所需零件

要学习本教程，您需要1个 ESP32 开发板（推荐硬件，请不要使用esp8266，问就是不行）。

在这里插入图片描述
简约版需要设置CDC下载，经典版直接下载
在这里插入图片描述

3. 核心代码

esp32 Arduino代码如下

#include <WiFi.h>
#include <HTTPClient.h>
#include <ArduinoJson.h>

// 1. Replace with your network credentials
const char* ssid = "J09 502";
const char* password = "qwertyuiop111";

// Replace with your OpenAI API key
// const char* apiKey = "1CeoUoYgnfc6s5liNR2uoQrk";
// const char* secret_Key = "G3n9aHVerzGqr0EWsLnca0fVkiXI9BVz";
//const char* access_token = "24.01bb97173188a1a22d6a6991918f6508.2592000.1706880634.282335-46332156";
// Send request to OpenAI API
String inputText = "你好，文心一言";
// 2. Replace with your access_token
String apiUrl = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=24.23087285c9ab53cbfd7aad5c032ae371.2592000.1706878581.282335-46332156";

String answer;
String getGPTAnswer(String inputText) {
  HTTPClient http;
  http.setTimeout(10000);
  http.begin(apiUrl);
  http.addHeader("Content-Type", "application/json");
  // http.addHeader("access_token", String(access_token));
  String payload = "{\"messages\":[{\"role\": \"user\",\"content\": \"" + inputText + "\"}],\"disable_search\": false,\"enable_citation\": false}";
  int httpResponseCode = http.POST(payload);
  if (httpResponseCode == 200) {
    String response = http.getString();
    http.end();
    Serial.println(response);

    // Parse JSON response
    DynamicJsonDocument jsonDoc(1024);
    deserializeJson(jsonDoc, response);
    String outputText = jsonDoc["result"];
    return outputText;
    // Serial.println(outputText);
  } else {
    http.end();
    Serial.printf("Error %i \n", httpResponseCode);
    return "<error>";
  }
}

void setup() {
  // Initialize Serial
  Serial.begin(115200);

  // Connect to Wi-Fi network
  WiFi.mode(WIFI_STA);
  WiFi.begin(ssid, password);
  Serial.print("Connecting to WiFi ..");
  while (WiFi.status() != WL_CONNECTED) {
    Serial.print('.');
    delay(1000);
  }
  Serial.println(WiFi.localIP());
  answer = getGPTAnswer(inputText);
  Serial.println("Answer: " + answer);
  Serial.println("Enter a prompt:");

}

void loop() {
  // do nothing
  if (Serial.available()) {
    inputText = Serial.readStringUntil('\n');
    // inputText.trim();
    Serial.println("\n Input:"+inputText);

    answer = getGPTAnswer(inputText);
    Serial.println("Answer: " + answer);
    Serial.println("Enter a prompt:");
  }
  // delay(2);
}

这段代码是一个基于Arduino平台（可能是ESP32或ESP8266）的示例，它通过WiFi连接到指定的无线网络，并利用HTTPClient库向百度文心一言API发送POST请求以获取AI生成的回答。以下是详细的解释：

  1. 导入必要的库：
#include <WiFi.h>：用于处理Wi-Fi连接功能。
#include <HTTPClient.h>：用于发送HTTP请求。
#include <ArduinoJson.h>：用于解析从服务器返回的JSON格式数据。
  1. 第一处修改定义Wi-Fi网络凭证：
const char* ssid = "J09 502";：Wi-Fi网络名。
const char* password = "qwertyuiop111";：Wi-Fi网络密码。
  1. 第二处修改定义要调用的API地址：
String apiUrl = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=24.23087285c9ab53cbfd7aad5c032ae371.2592000.1706878581.282335-46332156";
  1. 定义输入文本和函数 getGPTAnswer(String inputText)：
  • 输入文本是固定的问候语"你好，文心一言"，在实际应用中可以根据需要修改。
  • 函数 getGPTAnswer() 负责执行以下操作：
    初始化HTTPClient对象并设置目标URL。设置Content-Type头信息，构造请求体payload，将用户输入的内容添加到JSON结构中。发送POST请求并检查HTTP响应码。如果响应码为200，则读取并解析返回的JSON数据，提取出结果字段作为回答。若非200，则返回错误字符串 “”。
  1. setup() 函数：
  • 初始化串口通信， 连接到指定的Wi-Fi网络。
  • 连接成功后，获取一个初始的回答并打印出来，然后提示用户输入新的问题。
  1. loop() 函数：
  • 检查串口是否有可用的数据输入。
  • 如果有新输入，读取一行内容，调用 getGPTAnswer() 函数获取AI回答，并将对话过程输出到串口。

注意：虽然代码中有OpenAI API相关注释，但实际上该代码是针对百度文心一言API编写的。如果你想要与OpenAI
API交互，你需要使用OpenAI提供的API URL、access token及相应的JSON结构进行请求。

4. 上传验证

打开串口监视器，注意右下角选择换行符，选择115200波特率，输入你想问的问题，他就可以回答你

4.1 测试对话

在这里插入图片描述

4.2 报错

如果返回error ，大家对照列表查询错误代码，结合提示排查解决
在这里插入图片描述

5. 总结

🥳🥳🥳现在，我们在本教程中，您学习了如何使用ESP32接入国产大模型之文心一言。🛹🛹🛹从而实现对外部世界进行感知，充分认识这个有机与无机的环境，后期会持续分享esp32跑freertos实用案列🥳🥳🥳科学地合理地进行创作和发挥效益，然后为人类社会发展贡献一点微薄之力。🤣🤣🤣
如果你有任何问题，可以通过下面的二维码加入鹏鹏小分队，期待与你思维的碰撞😘😘😘

2345VOR
关注
  • 60
    点赞
  • 踩
  • 154
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 12
    评论
专栏目录
Arduino实现基于的ESP32的WiFiAP模式多客户端接入
10-15
Arduino实现基于的ESP32的WiFiAP模式多客户端接入
esp32接入ChatGPT并语音交互
最新发布
04-03
esp32接入ChatGPT并语音交互
ESP32接入国产大模型之文心一言：开启AI新篇章
qq_56579776的博客
01-06 865
这一合作将为AI应用带来更多可能性。随着人工智能技术的不断发展，国内企业在AI大模型和智能硬件领域的技术实力不断提升，已经具备了与国际领先企业竞争的能力。未来，随着技术的不断进步和应用场景的不断拓展，国内企业在AI大模型和智能硬件领域的发展前景将更加广阔。通过这一合作，我们可以看到国内企业在AI大模型和智能硬件领域的实力和创新能力，同时也为AI应用带来了更多可能性。因此，在推动人工智能技术的发展和应用的同时，我们也需要加强技术伦理和法律法规的建设，确保人工智能技术的发展能够符合人类的价值观和伦理道德标准。
百度文心一言（ERNIE bot）API接入Android应用
拾一贰叁的博客
03-23 1745
关于利用文心一言API实现简易的Android端的AI对话助手的过程（其实java端都行）
【ESP32接入国产大模型之MiniMax】
vor234的博客
03-16 1688
🥳🥳🥳现在，我们在本教程中，您学习了如何使用ESP32接入语言大模型之MiniMax。🛹🛹🛹从而实现对外部世界进行感知，充分认识这个有机与无机的环境，后期会持续分享esp32跑freertos实用案列🥳🥳🥳科学地合理地进行创作和发挥效益，然后为人类社会发展贡献一点微薄之力。🤣🤣🤣如果你有任何问题，可以通过下面的二维码加入鹏鹏小分队，期待与你思维的碰撞😘😘😘。
文心一言可以用来论文降重吗
chatgpt002的博客
02-14 3289
首先，将论文复制粘贴到文心一言的文本框中，然后选择“降重”功能。接着，文心一言会开始分析论文中的重复内容，并给出相应的修改建议。通过使用它，我们可以更加高效地完成论文降重工作，为论文的顺利发表和评审打下坚实的基础！当然，我们需要注意，文心一言只是一种辅助工具，它可以帮助我们识别出重复内容并提供修改建议，但并不能完全替代人工审查。因此，在使用文心一言进行论文降重时，我们还需要结合自己的理解和对论文主题的把握，对修改建议进行筛选和调整。我们可以根据文心一言的建议，对论文进行修改，从而降低重复率。
【ESP32S3 Sense接入语音识别+MiniMax模型对话】
vor234的博客
03-28 2078
🥳🥳🥳现在，我们在本教程中，您学习了如何使用ESP32S3 Sense接入语音识别+MiniMax模型对话。🛹🛹🛹从而实现对外部世界进行感知，充分认识这个有机与无机的环境，后期会持续分享esp32跑freertos实用案列🥳🥳🥳科学地合理地进行创作和发挥效益，然后为人类社会发展贡献一点微薄之力。🤣🤣🤣如果你有任何问题，可以通过下面的二维码加入鹏鹏小分队，期待与你思维的碰撞😘😘😘。
文心一言API使用教程（python版）
热门推荐
weixin_73654895的博客
10-13 2万+
预置准备部分注：在做项目的时候需要调用文心一言，发现网上的版本很乱，基本都止步在官方文档的代码上，所以写了一篇博客来记录自己的尝试实现了对文心一言的循环调用和自定义询问，本篇文章不需要有任何对api的基础知识，代码全部成功运行，并引用官方文档，祝大家成功实现自己的调用预置准备部分。
大语言模型api调用
qq_49472679的博客
07-17 2193
是百度旗下企业级大模型生产平台，提供包括文心一言在内的大模型服务，还提供第三方大模型服务。此外，文心千帆还提供大模型开发和应用的整套工具链，以帮助企业快速构建自己的大模型应用。百度全新一代知识增强大语言模型，文心大模型家族的新成员，能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。文心千帆可以为用户提供大模型服务，同时支持自定义和扩展模型功能，以及与AI开发者共创AI应用，为不同行业和场景提供定制化的解决方案。根据select_key和api_key获取access_key。
Unity+百度文心大模型驱动AI小姐姐数字人
sinat_28962939的博客
09-12 2907
这次的文章简单介绍了百度文心大模型平台API的对接流程，并针对接口对接的流程进行了介绍，包括接口的鉴权、以及发送报文、响应报文的结构说明，并提供了针对全流程在unity端的实现代码示例。通过上述的代码实现，我们就可以在unity引擎中，使用百度文心大模型的api来驱动AI二次元小姐姐的对话交互。
文心一言 4.0 ERNIE-Bot 4.0 ：ERNIE-Bot 4.0 大模型深度测试体验报告
简简单单Onlinezuozuo
10-18 4542
昨天申请的 文心一言 4.0 ERNIE-Bot 4.0 测试资格，目前已经拿到，我们将开始对 文心一言 4.0 ERNIE-Bot 4.0 进行一些体验测试该接口调用 = 发起一次对话请求本接口返回不支持图片内容接口地址为：POST接口文档 如何获取 Access_Token真的已经很惊艳了，比预期值是要高出很多的，唯一不足的地方就是目前响应速度实在是有点慢，不知道是不是测试阶段部署的算力资源不足的问题。
如何申请文心一言&文心千帆大模型API调用资格、获取access_token，并使用SpringBoot接入文心一言API
zero2100的专栏
10-13 2771
前段时间，百度文心一言&文心千帆大模型开放了API调用的测试，接下来，教大家申请测试资格并接入文心千帆大模型的API。
esp32-camera
08-04
ESP32 相机驱动 一般信息 该存储库托管用于图像传感器的 ESP32 系列 Soc 兼容驱动程序。 此外，它还提供了一些工具，允许将捕获的帧数据转换为更常见的 BMP 和 JPEG 格式。 支持的系统 ESP32 ESP32-S2 ESP32-S3 支持的传感器 模型 最大分辨率 颜色类型 输出格式 镜头尺寸 OV2640 1600 × 1200 颜色 YUV(422/420)/YCbCr422 RGB565/555 8 位压缩数据8/10 位原始 RGB 数据 1/4" OV3660 2048 x 1536 颜色 原始 RGB 数据RGB565/555/444 CCIR656 YCbCr422 压缩 1/5" OV5640 2592 × 1944 颜色 原始RGB RGB565/555/444 CCIR656 YUV422/420 YCbCr422 压缩 1/4"
stm32c8t6+esp8266接入阿里云
01-14
物联网
物联网项目实战开发之基于STM32+ESP8266WIFI通过HTTP协议接入中移OneNet云平台代码程序，支持WEB及APP
05-26
STM32F103通过串口2跟ESP8266相连。 1、连接中移动onenet物联网云平台，主动上报继电器及温湿度数据到平台端。 2、通过HTTP协议接入平台，接收平台端下发的控制指令并动作。上报继电器状态及温湿度值。 3、代码使用...
esp32连接自建MQTT服务器
05-11
esp32连接基于EMQX搭建的MQTT服务器，通过MQTT协议将采集到的温湿度（DHT11）、光照强度（BH1750）、土壤湿度、水位高度等数据传输，同时也可以通过客户端发送指令控制两个继电器 ，此代码已跑通，欢迎下载使用
ESP32-C3 使用 MQTT 连接 ONENet 平台
04-18
我的博文 《认识ESP-IDF-v4.3+工程结构（ESP32-C3应用调整示例）》最终工程结构， 使用 自己画的 ESP32-C3 开发板《自己画一块ESP32-C3 的开发板（立创EDA）（PCB到手）》 。 实现了 ESP32-C3 通过 MQTT 协议连接 ...
STM32F1系列单片机+ESP8266接入阿里云和华为云C语言实现MQTT协议
02-24
STM32F1系列单片机+ESP8266接入阿里云/华为云 压缩包包含2个独立程序 ，一个阿里云，一个华为云 C语言代码 单片机程序实现MQTT协议，采用标准库函数编写
Homekit：带有Arduino框架的ESP32的Homekit
01-28
该应用程序将ESP32上的Apple Homekit暴露于温度和湿度等传感器。 不需要其他桥梁，例如 ！ 它基于构建，并使用作为组件。 为了同时暴露不同的传感器，使用了插件系统。 一个插件可以 将多个传感器（例如温度探头）...
esp32接入大模型
03-08
ESP32是一款低功耗的Wi-Fi和蓝牙双模块芯片，它具有强大的处理能力和丰富的外设接口，非常适合用于物联网应用。如果要将ESP32接入大模型，可以按照以下步骤进行： 1. 准备ESP32开发环境：首先需要搭建ESP32的开发环境，包括安装Arduino IDE或者使用ESP-IDF进行开发。可以根据自己的喜好选择合适的开发环境。 2. 连接ESP32与大模型：将ESP32与大模型进行连接，可以通过串口、Wi-Fi或者其他通信方式进行数据传输。具体的连接方式取决于大模型的接口和通信协议。 3. 编写代码：根据大模型的要求和接口文档，编写ESP32的代码来实现与大模型的通信。这包括发送数据给大模型、接收大模型的响应以及处理返回的结果。 4. 数据处理与解析：在ESP32端，根据大模型返回的数据进行相应的处理和解析。可以根据需要对数据进行预处理、特征提取等操作，以便后续的应用。 5. 应用开发：根据具体的应用需求，将大模型返回的结果应用到相应的场景中。可以通过控制外设、发送通知等方式来实现。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 12
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

2345VOR

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值