理论上:
EMA 更稳定并产生更真实的结果,但训练速度也更慢并且需要更多内存。
非 EMA 训练速度更快,需要的内存更少,但稳定性较差,可能产生不太现实的结果。
最终,最佳选择将取决于具体需求和偏好。
如果不确定选择哪个选项,建议从 EMA 开始,如果对结果不满意,则尝试使用非 EMA。
以下是有关 EMA 和非 EMA 的一些其他详细信息:
EMA 是通过对特定步骤数的模型权重进行平均而创建的。这有助于消除训练数据中的噪声并产生更稳定的结果。
非 EMA 是原始模型,这意味着它不会在任何步骤上进行平均。这使得训练速度更快,但也更容易出现过度拟合。
以下是可能想要使用 EMA 的一些示例:
- 当您想要生成高质量图像时。
- 当你时间不够的时候。
- 当您使用功能较弱的计算机时。
以下是您可能希望使用非 EMA 的一些示例:
- 当您需要快速生成图像时。
- 当您尝试不同的参数时。
- 当您使用具有大量内存的功能强大的计算机时。
stabilityAI 的一位员工建议使用 EMA。从 EMA 开始,如果您对结果不满意,然后尝试非 EMA。