如何在调用国内大模型(文心一言、chatglm等)第一篇

我们知道在用langchain调用chatgpt时是通过调用OpenAi的api进行,那文心一言也是如此。只不过文心一言不是通过langchain,而是通过qianfan这个包进行。

1、先下载pycharm,windows的话直接在官网下载选community版本免费使用,Linux下载的话见下面链接

Linux中更新pycharm即删除旧的pycharm,装新的pycharm_linux pycharm图标删除-CSDN博客

2、装好pycharm后,设置环境变量方便以后用命令安装相应的包,我用的是Windows进行编程,以Windows 为例,设置环境变量,见下面链接

cmd中输入pip显示错误,windows10中pip环境变量的设置-CSDN博客

3、使用下面安装Jupyter Notebook,Jupyter Notebook有助于初学者交互式学习国内大模型,使用下面链接中情况二:利用pip命令安装Jupyter Notebook

手把手教你安装Jupyter Notebook(保姆级教程)_jupyter notebook安装教程-CSDN博客

为了不占用c盘的资源,我们在另外的盘里用Jupyter Notebook新建一个python交互式编程文件,比如我想在d盘下,我在命名窗口输入d:

然后输入​​​​​​​Jupyter Notebook,启动程序,你想在哪里建,就在哪里,点击new,然后notebook,然后select

4、编程部分

先在命名行窗口pip install qianfan,失败了就多试几次

然后这里解读一个简单调用大模型对话的小程序,代码中解读

import qianfan

chat_comp = qianfan.ChatCompletion(ak="你的api", sk="你的密钥")//这里百度比openai那个多要一个密钥
msgs = qianfan.Messages()//这里百度是通过messages来输入用户要提的问题给大模型处理,和langchain中humanmessage有区别
while True:
    msgs.append(input("请输入你想问的问题:"))         # 增加用户输入
    resp = chat_comp.do(messages=msgs) //输入给大模型
    print(resp)	                 # 打印输出
    msgs.append(resp)            # 增加模型输出

api和sk的获取见应用接入 - 千帆大模型平台 | 百度智能云文档 (baidu.com)

​​​​具体编程学习部分见,大模型推理 — Qianfan SDK documentation(这是旧的,里面有些错误)千帆SDK LLM 快速入门 - 百度智能云千帆社区 (baidu.com)(这是最新的)

  • 16
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值