chatgpt平替,清华chatglm本地化部署

ChatGLM-6B 是一个开源的、支持中英双语的对话语言模型,基于 General Language Model (GLM) 架构,具有 62 亿参数。因为我的cpu跑不了,在linux服务器端进行部署。前提是conda已经安装并配置好,因为我的已经搞好,就不是从最初开始,但是网上有很多配置方法,操作起来也不是太难。
这里提供一些其他博主的安装和配置方法;
https://blog.csdn.net/KRISNAT/article/details/124041869#1_Anconda_1
硬件需求:
在这里插入图片描述

下载代码:
git clone https://github.com/THUDM/ChatGLM-6B.git
在这里插入图片描述

使用anaconda创建虚拟环境
pip install -r requirements.txt
在这里插入图片描述

启动命令:
python cli_demo.py
最终会显示命令行中进行交互式的对话,在命令行输入指示并回车即可生成回复,界面如下:
在这里插入图片描述

  • 1
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值