【大模型】chatglm-6b的demo

1. 直接运行下载会中断,但是会在~/.cache/huggingface/hub/models--THUDM--chatglm-6b/snapshots/619e736c6d4cd139840579c5482063b75bed5666

类似于这种文件夹

直接在

清华大学云盘

下载相应.bin文件复制到该文件夹

2. 还是会下载失败,有一个什么文件不是bin

直接上梯子(你自己的),点击clash/cfw即可,不用在控制台配置.

训练chatglm2-6b出现错误

1. AttributeError: 'Seq2SeqTrainer' object has no attribute 'is_deepspeed_enabled

transformer版本太高,直接用第一版chatglm-6b的

ChatGLM2-6B的P-Tuning微调_Maann的博客-CSDN博客

2. cudart is not initialized

[BUG/Help] <title> RuntimeError: Library cudart is not initialized · Issue #115 · THUDM/ChatGLM-6B · GitHub

重新安装cuda即可. nvidia-smi中的cuda版本只是建议的版本而已,并不代表你一定安装了.

CUDA Toolkit Archive | NVIDIA Developer

此链接有各种版本的安装.注意要先升级到驱动到所能支持的最新版本.

另外ubuntu22的输入法还是用google的

Ubuntu安装谷歌拼音输入法（个人记录） - 哔哩哔哩