- 博客(7)
- 收藏
- 关注
RSS订阅原创 多机多卡训练SD系列模型（四）
Accelerate是为PyTorch用户设计的库，旨在简化分布式训练和混合精度训练过程。它提供了一种轻松加速和扩展PyTorch训练脚本的方式，无需编写繁琐的样板代码。Accelerate的API相对简单，仅包含一个Accelerator对象类，使用户能够更轻松地利用多GPU、TPU等计算资源，同时保持对训练循环的完全控制。
2023-10-10 18:37:15
3300
2
原创 多机多卡训练SD系列模型（三）
要写了kohya-trainer的训练脚本的使用，中间具体参数需要慢慢摸索，并且需要根据不同机器来运行不同的加速配置。
2023-10-09 21:59:17
945
1
原创 多机多卡训练SD系列模型（二）
尝试使用Dreambooth的方式，所以迁到了kohya-trainer这个项目这次训练主要是因为环境中本身就已经用了lora-script的项目，很多环境是通用的，就直接从kohya_ss中拉下来的文件直接跑了，上面还是有很多比如打标，剪裁，命名的步骤，这些在后面的项目中其实都可以省略了。后面会研究用dreambooth来训练lora，以免污染到底模。
2023-09-27 18:23:39
744
1
原创 多机多卡训练SD系列模型（一）
stable diffusion作为开源的生成图的模型已经有了很多训练完的模型，训练一个大模型还是比较麻烦的，先进行lora训练，用到了这个项目还有stable diffusion的WebUI也有很多别的lora项目对kohya的脚本进行包装这是kohya的仓库这篇作为开头，只写了从收集数据、处理数据到训练lora，测试模型的整个流程是可以跑通的，后续文章中用的项目从lora-script转到了kohya-trainer，下一篇将分析kohya-trainer的参数和dreambooth方法。
2023-09-26 20:36:48
3777
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人