deepspeed分布式框架扫盲

一、目录
1 分布式框架简介
2. torchrun 使用教程
3. deepspeed 使用教程

二、实现
1 分布式框架简介
现有的分布式训练框架对比：
参考:https://www.ai2news.com/blog/3035683/


2. torchrun 使用教程
https://pytorch.org/docs/stable/elastic/run.html
https://blog.csdn.net/orangerfun/article/details/123887725
3. deepspeed 使用教程
Deepspeed是由微软开发的一款开源深度学习优化库，旨在提高大规模模型训练的效率和可扩展性。该框架采用多种技术手段来加速训练，其中包括模型并行化、梯度累积、动态精度缩放、本地模式混合精度等。此外，Deepspeed还提供了一些辅助工具，如分布式训练管理、内存优化和模型压缩等，以帮助开发者更好地管理和优化大规模深度学习训练任务。该框架是基于PyTorch构建的，因此可以简单修改以便进行迁移使用。Deepspeed已经在许多大规模深度学习项目中得到了应用，包括语言模型、图像分类、目标检测等领域。