text-generation-webui加载chatglm2-6b时,报错,要求set the option trust_remote_code=True

背景

使用text-generation-webui加载chatglm2-6b大模型时报错,要求设置option trust_remote_code=True,一开始没注意界面,去翻找配置文件,后来发现,就在Model界面,有一个复选框,可以进行设置!
THUDM_chatglm2-6b requires you to execute the configuration file in that repo on your local machine. Make sure you have read the code there to avoid malicious use, then set the option trust_remote_code=True to remove this error.

解决方案

1、如下图,勾选后,点击【load】:
在这里插入图片描述
2、此时,可以看到命令行中,开始在下载和加载checkpoint了
在这里插入图片描述
3、待加载完后,可以看到【Successfully loaded THUDM_chatglm2-6b】的输出
在这里插入图片描述
4、回到【Text generation】,输入【你是谁?】,可以看到回复了是【ChatGLM2-6B人工智能助手…】
在这里插入图片描述
大功告成!

整理不易,点个赞吧!

整理不易,点个赞吧!

整理不易,点个赞吧!

  • 8
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 10
    评论
评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值