text-generation-webui加载chatglm2-6b时,报错,要求set the option trust_remote_code=True
使用text-generation-webui加载chatglm2-6b大模型时报错,要求设置option trust_remote_code=True,一开始没注意界面,去翻找配置文件,后来发现,就在Model界面,有一个复选框,可以进行设置!】,可以看到回复了是【ChatGLM2-6B人工智能助手…3、待加载完后,可以看到【Successfully loaded THUDM_chatglm2-6b】的输出。2、此时,可以看到命令行中,开始在下载和加载checkpoint了。
原创
2023-07-30 12:49:07 ·
6103 阅读 ·
10 评论