DeepSpeed是由Microsoft基于PyTorch研发的开源深度学习优化库,虽然是微软开发,但是实际对Windows支持并不好,本文主要解决windows安装遇到问题的解决方案
1.根据文档,直接使用pip安装,会必现报错:
error: subprocess-exited-with-error
× python setup.py egg_info did not run successfully.
│ exit code: 1
2.pip install deepspeed==0.3.16
powershell上设置环境变量Set-Item Env:\DS_BUILD_OPS 0 ,并安装0.3.16版本的deepspeed发现可以安装的上,但是引入时报错:
3.修改成新引用方法
No module named 'torch._six':
查阅文档发现事情torch 老早版本就去除_six这个类,发现实际要引入inf
需要去库中找到util.py和stage2.py这两个文件,将引用inf的代码from torch._six import inf改成from torch import inf