[总结] DDPM Diffusion模型各阶段训练和采样过程方案细节和代码逻辑汇总

最新推荐文章于 2025-04-22 22:08:44 发布

_Summer tree

最新推荐文章于 2025-04-22 22:08:44 发布

阅读量6k

点赞数 5

分类专栏： Diffusion 文章标签：算法人工智能 Diffusion 总结

本文链接：https://blog.csdn.net/nguever15/article/details/128574368

版权

Diffusion 专栏收录该内容

27 篇文章

订阅专栏

DDPM Diffusion模型训练和采样过程细节汇总

算法回顾

DDPM的算法概述
在这里插入图片描述

我们从 Classifier-Free Diffusion Guidance 这篇文章开始。
classifier-free 引导的条件采样过程
在这里插入图片描述
在《Null-text Inversion for Editing Real Images using Guided Diffusion Models》中，对Classifier-free guidance 形式化为：

简单的推断一下：
= $\omega * \epsilon_{\theta}(z_t,t,C)+\epsilon_{\theta}(z_t,t,\oslash )-\omega * \epsilon_{\theta}(z_t,t,\oslash )$
= $\omega *( \epsilon_{\theta}(z_t,t,C)-\epsilon_{\theta}(z_t,t,\oslash ))+\epsilon_{\theta}(z_t,t,\oslash )$

相当于是在 $\epsilon_{\theta}(z_t,t,\oslash )$ 的基础上，加强了在 $\epsilon_{\theta}(z_t,t,C)-\epsilon_{\theta}(z_t,t,\oslash )$ 方向上的引导，可以结合下图来进行理解：
在这里插入图片描述
Classifier-Free Diffusion Guidance 中的这张图也表达相同的意思，模型增加分类器指导强度时发生的Inception score增加和样本多样性减少的简化表现。

框架理解

下面画图理解一下Diffuion Model 发展各个阶段的方法

DDPM

训练过程

在这里插入图片描述

采样过程

在这里插入图片描述

Text-guiled DDPM

训练过程

在这里插入图片描述

采样过程

在这里插入图片描述

Null-text guiled DDPM

训练过程

和 text guiled DDPM一致。

采样过程

在这里插入图片描述

项目代码

下面是论文《GLIDE: Towards Photorealistic Image Generation and Editing with Text-Guided Diffusion Models》的代码逻辑进行梳理，code 链接：https://github.com/openai/glide-text2im/