llama_factory 报错_pydantic_core.ValidationError: 1 validation error for DeepSpeedZeroConfig

使用llama_factory + deepspeed stag 3 offload 报错 pydantic_core._pydantic_core.ValidationError: 1 validation error for DeepSpeedZeroConfig

–deepspeed cache/ds_z3_offload_config.json
在这里插入图片描述

报错异常在这里插入图片描述
环境状况:

nvidia-smi

在这里插入图片描述

nvcc -V

在这里插入图片描述

python -c "import torch; print(torch.__version__); print(torch.cuda.is_available())"

在这里插入图片描述

考虑处理方向:变更deepspeed版本,因deepspeed小编是自行安装,安装的最新版,为15.0所以报错,当然过老的版本也会报错,Git上看到用当前版本较多进行更换,问题解决!

// 变更deepspeed 版本
pip install deepspeed==0.14.4 -i https://pypi.tuna.tsinghua.edu.cn/simple

当然也可以安装更低的版本,但是不要太低!

可以考虑匹配降级:

pip install torch==2.2.2 torchvision==0.17.2 torchaudio==2.2.2 --index-url https://download.pytorch.org/whl/cu121
pip install deepspeed==0.14.2 -i https://pypi.tuna.tsinghua.edu.cn/simple
python -c "import torch; print(torch.__version__); print(torch.cuda.is_available())"

在这里插入图片描述

// 变更deepspeed 版本
pip install deepspeed==0.14.2 -i https://pypi.tuna.tsinghua.edu.cn/simple

亲测没问题!

  • 4
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值