【LLM入门之 星火大模型】(一) 获取API_KEY 以及本地运行

本文介绍了如何使用星火大模型API进行简单的调用,包括领取免费额度、创建应用、设置参数以及在Python环境中安装和编写示例代码。
摘要由CSDN通过智能技术生成

最近就写点LLM入门的吧 =。=

本篇会介绍星火大模型API简单的调用。适合没有魔法的同学。
新用户注册会有免费的200w额度调用。够尝尝鲜。

首先打开官网, 先去领取免费额度,如下图所示:
在这里插入图片描述
按照自身条件领取或采购。点击免费试用后,
在这里插入图片描述
需要新建一个应用,这里随便取名字后,直接下单就行。
然后进入控制台,点击大模型V3.5
在这里插入图片描述

右上角可以看到你的参数,按需保存和调用。

然后打开你的IDE,控制台中输入以下命令:

pip install --upgrade spark_ai_python

安装好后,输入以下代码:

from sparkai.llm.llm import ChatSparkLLM, ChunkPrintHandler
from sparkai.core.messages import ChatMessage

#星火认知大模型v3.5的URL值,其他版本大模型URL值请前往文档(https://www.xfyun.cn/doc/spark/Web.html)查看
SPARKAI_URL = 'wss://spark-api.xf-yun.com/v3.5/chat'
#星火认知大模型调用秘钥信息,请前往讯飞开放平台控制台(https://console.xfyun.cn/services/bm35)查看
SPARKAI_APP_ID = ''
SPARKAI_API_SECRET = ''
SPARKAI_API_KEY = ''
#星火认知大模型v3.5的domain值,其他版本大模型domain值请前往文档(https://www.xfyun.cn/doc/spark/Web.html)查看
SPARKAI_DOMAIN = 'generalv3.5'

if __name__ == '__main__':
    spark = ChatSparkLLM(
        spark_api_url=SPARKAI_URL,
        spark_app_id=SPARKAI_APP_ID,
        spark_api_key=SPARKAI_API_KEY,
        spark_api_secret=SPARKAI_API_SECRET,
        spark_llm_domain=SPARKAI_DOMAIN,
        streaming=False,
    )
    messages = [ChatMessage(
        role="user",
        content='你好'
    )]
    handler = ChunkPrintHandler()
    a = spark.generate([messages], callbacks=[handler])
    print(a)

以上就是简单的入门,后续会继续更新

  • 4
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值