Deepspeed报错解决：Error building extension ‘cpu_adam‘，AttributeError: ‘DeepSpeedCPUAdam‘ object has no a

RuntimeError: Error building extension ‘cpu_adam’
Exception ignored in: <function DeepSpeedCPUAdam.del at 0x7f5b402eb0d0>

AttributeError: ‘DeepSpeedCPUAdam’ object has no attribute ‘ds_opt_adam’

使用huggingface和deepspeed时遇到上述问题。

碰到上面的报错也查了很多资料，但是都没有很好的解决，主要问题还是torch和deepspeed版本的问题。

报错版本：
torch == 2.2.2
deepspeed == 0.14.4

降低deepspeed版本后解决问题：
torch== 2.2.2
deepspeed== 0.14.2