最近在对ChatGLM2-6B进行微调的时候,调用 train.sh出现的一个报错
通过报错信息逐行排查,发现是lib\site-packages\accelerate\state.py文件202行出了问题
原因是Windows不支持nccl backend,将nccl改成gloo,问题解决。
ChatGLM2-6B 微调:解决 Distributed package doesn‘t have NCCL built in
最新推荐文章于 2024-05-15 07:35:13 发布