项目接入星火认知大模型!!!

项目接入星火认知大模型demo

导言

随着国内的语言大模型不断兴起,科大讯飞的星火大模型,阿里的通义千问,百度的文心一言等。

这些大模型给我提供了很好的便利

同时星火大模型提供了 开放api功能 使得我们能够将大模型接入到我们自己的项目当中。

这使得该项目的产生

项目介绍

我通过星火大模型提供的开放api,将大模型成功接入到自己网页中
在这里插入图片描述
gif正在加载中!!!
在这里插入图片描述

项目地址

zou-hong-run/xinghuo: 讯飞星火认知大模型接入网页 (github.com)

演示视频地址

讯飞星火认知大模型接入网页demo演示(项目接入大模型功能)_哔哩哔哩_bilibili

运行项目

  • 下载该项目

  • 到讯飞开发平台注册账户,这样可以添加应用

  • 到讯飞控制台添加一个应用,这样可以获取 APPID,APISecret,APIKey等

  • 打开我们项目

    • 修改xinghuodemo/main.js中的代码,填写自己的APPID,APISecret,APIKey

      	let requestObj = {
      	    APPID: '',
      	    APISecret: '',
      	    APIKey: '',
      	    Uid:"随机用户名",
      	    sparkResult: ''
      	}
      
  • 然后执行下面指令

    cd xinghuodemo
    pnpm i
    pnpm run dev
    
  • 然后访问地址,可以开始使用啦

    • http://localhost:5173/
    • 在这里插入图片描述

show代码

网页布局代码

<!doctype html>
<html lang="en">

<head>
  <meta charset="UTF-8" />
  <link rel="icon" type="image/svg+xml" href="/vite.svg" />
  <meta name="viewport" content="width=device-width, initial-scale=1.0" />
  <title>讯飞星火认知大模型接入网页成功</title>
  <style>
    * {
      margin: 0;
      padding: 0;
      box-sizing: border-box;
    }
    h1{
      text-align: center;
      color: #5165EA;
    }
    html,body{
      width: 100%;
      height: 100%;
      background-color: #F3F8F9;
    }
    body{
      padding: 10%;
    }
    #results{
      width: 100%;
      height: 80%;
      background-color: #E2EEFF;
    }
    #results #result{
      width: 100%;
      height: 100%;
      padding: 10%;
      
      background-color: #E2EEFF;
      white-space:pre-line;
    }
    #sendVal{
      display: flex;
      width: 100%;
      height: 20%;
    }
    #sendVal #question{
      width: 70%;
      height: 100%;
      padding: 5%;
      border: 2px dotted blue;
    }
    #sendVal #btn{
      width: 30%;
      height: 100%;
      background-color: #5D7CFF;
    }
    
    
    
  </style>
</head>

<body>
  <h1>讯飞星火认知大模型接入网页成功</h1>
  <div id="results">
    <textarea id="result"></textarea>
  </div>
  <div id="sendVal">
    <input id="question" type="text">
    <button id="btn">发送信息</button>
  </div>
  <script type="module" src="main.js"></script>
</body>

</html>

功能实现代码 main.js

import * as base64 from 'base-64'
import CryptoJs from 'crypto-js'

let questionInput = document.querySelector("#question");
let sendMsgBtn = document.querySelector("#btn");
let result = document.querySelector("#result");

let requestObj = {
    APPID: '',
    APISecret: '',
    APIKey: '',
    Uid:"red润",
    sparkResult: ''
}
// 点击发送信息按钮
sendMsgBtn.addEventListener('click', (e) => {
    sendMsg()
})
// 输入完信息点击enter发送信息
questionInput.addEventListener('keydown', function (event) {
    if (event.key === 'Enter') { sendMsg(); }
});
// 发送消息
const sendMsg = async () => {
    // 获取请求地址
    let myUrl = await getWebsocketUrl();
    // 获取输入框中的内容
    let inputVal = questionInput.value;
    // 每次发送问题 都是一个新的websocketqingqiu
    let socket = new WebSocket(myUrl);

    // 监听websocket的各阶段事件 并做相应处理
    socket.addEventListener('open', (event) => {
        console.log('开启连接!!', event);
        // 发送消息
        let params = {
            "header": {
                "app_id": requestObj.APPID,
                "uid": "redrun"
            },
            "parameter": {
                "chat": {
                    "domain": "general",
                    "temperature": 0.5,
                    "max_tokens": 1024,
                }
            },
            "payload": {
                "message": {
                    // 如果想获取结合上下文的回答,需要开发者每次将历史问答信息一起传给服务端,如下示例
                    // 注意:text里面的所有content内容加一起的tokens需要控制在8192以内,开发者如有较长对话需求,需要适当裁剪历史信息
                    "text": [
                        { "role": "user", "content": "你是谁" }, //# 用户的历史问题
                        { "role": "assistant", "content": "我是AI助手" },  //# AI的历史回答结果
                        // ....... 省略的历史对话
                        { "role": "user", "content": inputVal },  //# 最新的一条问题,如无需上下文,可只传最新一条问题
                    ]
                }
            }
        };
        console.log("发送消息");
        socket.send(JSON.stringify(params))
    })
    socket.addEventListener('message', (event) => {
        let data = JSON.parse(event.data)
        // console.log('收到消息!!',data);
        requestObj.sparkResult += data.payload.choices.text[0].content
        if (data.header.code !== 0) {
            console.log("出错了", data.header.code, ":", data.header.message);
            // 出错了"手动关闭连接"
            socket.close()
        }
        if (data.header.code === 0) {
            // 对话已经完成
            if (data.payload.choices.text && data.header.status === 2) {
                requestObj.sparkResult += data.payload.choices.text[0].content;
                setTimeout(() => {
                    // "对话完成,手动关闭连接"
                    socket.close()
                }, 1000)
            }
        }
        addMsgToTextarea(requestObj.sparkResult);
    })
    socket.addEventListener('close', (event) => {
        console.log('连接关闭!!', event);
        // 对话完成后socket会关闭,将聊天记录换行处理
        requestObj.sparkResult = requestObj.sparkResult + "&#10;"
        addMsgToTextarea(requestObj.sparkResult);
        // 清空输入框
        questionInput.value = ''
    })
    socket.addEventListener('error', (event) => {
        console.log('连接发送错误!!', event);
    })
}
// 鉴权url地址
const getWebsocketUrl = () => {
    return new Promise((resovle, reject) => {
        let url = "wss://spark-api.xf-yun.com/v1.1/chat";
        let host = "spark-api.xf-yun.com";
        let apiKeyName = "api_key";
        let date = new Date().toGMTString();
        let algorithm = "hmac-sha256"
        let headers = "host date request-line";
        let signatureOrigin = `host: ${host}\ndate: ${date}\nGET /v1.1/chat HTTP/1.1`;
        let signatureSha = CryptoJs.HmacSHA256(signatureOrigin, requestObj.APISecret);
        let signature = CryptoJs.enc.Base64.stringify(signatureSha);

        let authorizationOrigin = `${apiKeyName}="${requestObj.APIKey}", algorithm="${algorithm}", headers="${headers}", signature="${signature}"`;

        let authorization = base64.encode(authorizationOrigin);

        // 将空格编码
        url = `${url}?authorization=${authorization}&date=${encodeURI(date)}&host=${host}`;

        resovle(url)
    })
}
/** 将信息添加到textare中
    在textarea中不支持HTML标签。
    不能使用
    标签进行换行。
    也不能使用\r\n这样的转义字符。

    要使Textarea中的内容换行,可以使用&#13;或者&#10;来进行换行。
    &#13;表示回车符;&#10;表示换行符;
*/
const addMsgToTextarea = (text) => {
    result.innerHTML = text;
}


结尾

很久前我就开始研究如何接入各家大模型,但是人家还没有开放api出来,星火大模型是最先出的,太棒了!!
觉得不错的请三连支持一下!!!bxin

4C720CEC.png

  • 7
    点赞
  • 49
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
讯飞星火认知模型是一种基于深度学习技术的自然语言处理模型,具有语义理解、情感分析、知识图谱等多种功能。它能够对自然语言进行分析、处理和理解,从而实现智能对话、知识查询、情感识别等应用。 技术路径: 1. 数据准备:收集大规模的自然语言数据,包括语料库、知识图谱等。 2. 模型训练:使用深度学习技术,训练多个子模型,包括语义理解模型、情感分析模型、知识图谱模型等。 3. 模型融合:将多个子模型进行融合,构建出更加强大的大模型,并进行优化和调整,以提高模型的性能和鲁棒性。 4. 应用部署:将大模型部署到云端服务器或边缘设备上,以提供智能对话、知识查询、情感识别等应用服务。 技术架构: 讯飞星火认知模型的技术架构包括数据准备、模型训练、模型融合和应用部署四个主要组件。其中,数据准备阶段需要收集大规模的自然语言数据,包括语料库、知识图谱等,模型训练阶段使用深度学习技术训练多个子模型模型融合阶段将多个子模型进行融合,构建出更加强大的大模型,并进行优化和调整,应用部署阶段将大模型部署到云端服务器或边缘设备上,以提供智能对话、知识查询、情感识别等应用服务。 在技术架构中,讯飞星火认知模型采用了深度神经网络模型,包括Transformer、BERT、GPT等,这些模型具有强大的自然语言处理能力,能够对自然语言进行深入分析和处理。同时,大模型还集成了多个子模型,包括语义理解模型、情感分析模型、知识图谱模型等,这些子模型各自处理不同的自然语言任务,综合起来能够实现更加全面和复杂的自然语言处理任务。总体来说,讯飞星火认知模型的技术架构具有高效、可靠、安全、可扩展等特点,为用户提供了高质量的自然语言处理服务。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值