[论文精读]Denoising Diffusion Probabilistic Models

最新推荐文章于 2025-04-18 10:14:04 发布

0x211

最新推荐文章于 2025-04-18 10:14:04 发布

阅读量1.4k

点赞数 16

分类专栏：论文精读文章标签：论文阅读 stable diffusion

本文链接：https://blog.csdn.net/m0_52911108/article/details/142351081

版权

发布链接：http://arxiv.org/abs/2006.11239

中文标题：去噪扩散概率模型

会议：34th Conference on Neural Information Processing Systems (NeurIPS 2020), Vancouver, Canada

阅读原因：需要知道/理解扩散概率模型的实现机理

论文提出了一种新的生成模型，称为去噪扩散概率模型，该模型基于不可逆热力学的原理来生成高质量的图像。

1. 研究背景

深度生成模型近年来在图像和音频的合成上取得了显著进展，如生成对抗网络（GANs）、变分自编码器（VAEs）和自回归模型等。然而，这些模型各自存在局限性，比如GANs易于模式崩溃、训练不稳定等问题。

该论文提出的扩散模型是一种基于马尔可夫链的生成模型，通过反向去噪来逐步恢复真实图像。其主要灵感来自于非平衡热力学中的扩散过

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

0x211

关注关注

16
点赞
踩
35

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

【CVPR2022论文精读DiffFace】DiffFace: Diffusion-based Face Swapping with Facial Guidance

zik的博客

05-25

1904

本文分享DiffFace，一种face-swapping的方法，在介绍全文的时候会在段末加入部分笔者的见解，希望对于论文的理解有一定的帮助。这是第一个将扩散模型应用于face-swapping任务的方法。在training stability，high fidelity和controllability方面都有一定的优势。在扩散模型训练时用了条件训练，采样时也用了条件引导采样，都是为了保存source face的身份信息。

Diffusion Models从入门到放弃：必读的10篇经典论文

沉迷单车的追风少年

01-08

5972

diffusion models是现在人工智能领域最火的方向之一，并引爆了AIGC方向，一大批创业公司随之诞生。笔者2021年6月开始研究diffusion，见证了扩散模型从无人问津到炙手可热的过程，这些篇经典论文我的专栏里都详细介绍过原理、复现过代码。这篇博客以时间发展顺序，串讲一下从入门到精(放)通(弃)的10篇必读的经典论文。

参与评论您还未登录，请先登录后发表或查看评论

DDPM: Denoising Diffusion Probabilistic Models的白话总结

溯源的专栏

01-15

2885

目前所采用的扩散模型大都是来自于2020年的工作。本文主要是对b站视频的记录和总结。该视频是目前见到的对DDPM讲述最为浅显易懂的，首先表达对视频作者的敬意，推荐看原视频，本文的讲述略去了一些比较常识性的东西，原视频非常值得看，会有很多收获。故记录总结之。对深入的知识进行本质的理解，并以形象、浅显、易懂的形式呈现出来，是毕生之追求。目前能力尚浅，有幸看到很多大神已经做出了很多漂亮的工作。所以先做好转呈记录。

Denoising Diffusion Probabilistic Models简介

icylling的专栏

12-13

4931

Denoising Diffusion Probabilistic Models的介绍

【读论文】Denoising Diffusion Probabilistic Models 去噪扩散概率模型

最新发布

一杯水果茶！足矣~

04-18

1394

【读论文】Denoising Diffusion Probabilistic Models 去噪扩散概率模型

【Diffusion】Denoising Diffusion Probabilistic Models (DDPM)小白入门指南

图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖

01-08

736

DiffusionModel的基本概念影像生成系统的应用DALL-EImagenDiffusionModel的运作原理生成图片的步骤从高斯分布中采样噪声向量使用Denoise模块逐步去噪从噪声到清晰图片的过程类比米开朗基罗的雕像创作Denoise模型的详细说明反复使用同一个Denoise模型额外输入噪声严重程度数值Denoise模型的内部结构NoisePredictor的作用预测并减去噪声NoisePredictor的训练方法人为创造训练数据。

论文阅读：Denoising Diffusion Probabilistic Models

Matrix-11

06-11

1942

在 AE 之后，出现了 DAE，也就是 Denoising Autoencoder，DAE 与 AE 的流程也非常类似，唯一的区别在于编码器的输入，AE 的编码器的输入是原始的高维向量，而 DAE 的编码器的输入是对原始高维向量加入噪声扰动之后的高维向量，DAE 就是希望把加了噪声的高维向量恢复成原始的高维向量，这个过程有点像是对高维向量去噪，所以就叫 Denoising Autoencoder。是从原始图像分布中抽取的一个初始样本，然后每次叠加少量的噪声，生成一系列的带噪图像，扩散与采样过程的程序。

[论文解析] Denoising Diffusion Probabilistic Models

Joselynzhao

12-10

1252

扩散概率模型(为方便起见，我们将其称为“扩散模型”)是一种参数化的马尔可夫链，使用变分推理训练产生有限时间后与数据匹配的样本。学习该链的跃迁来逆转扩散过程，这是一个马尔可夫链，逐步向采样的相反方向的数据添加噪声，直到信号被破坏。当扩散由少量高斯噪声组成时，将采样链跃迁设置为条件高斯也就足够了，允许特别简单的神经网络参数化。

【论文精读】DDPM：Denoising Diffusion Probabilistic Models 去噪扩散概率模型

weixin_47748259的博客

03-16

9278

变分自动编码器（VAE）结合了自动编码器和变分推断的思想。它主要包括编码器和解码器两个部分。VAE能够学习数据的潜在表示，并生成具有相似分布的新样本。在训练过程中，VAE的目标是最大化数据的边际似然，同时使潜在表示与先验分布（通常是高斯分布）的KL散度最小化。生成对抗网络（GAN）：由生成器和判别器组成。在训练过程中，生成器和判别器相互对抗、相互提升，最终使得生成器能够生成逼真的数据，判别器则很难区分真假数据。流模型（Flow-based Models）是一类生成模型，旨在学习数据的概率分布以

【Paper Notes】Denoising Diffusion Probabilistic Models

S_Kross的博客

11-07

1054

Diffusion Model 简要理解学习，不需要复杂的数学过程。

Classifier-Free Diffusion Guidance【论文精读加代码实战】

zik的博客

04-10

5107

在这篇博文中将会详细介绍Classifier-Free Diffusion Guidance的原理，公式推导，应用场景和代码分析。然后是分析和Classifier-Free Diffusion Guidance的区别和联系，以及各自的优缺点。缺点1、需要额外训练两个模型，成本较大，但可以实现比较精细的控制。2、采样速度慢，分类器可以比生成模型更小且更快，因此分类器引导的采样可以比无分类器引导更快，因为后者需要运行扩散模型的两个前向通道，一个用于条件得分，另一个用于无条件得分。

扩散模型+CV与NLP科研笔记专栏文章汇总：【Diffusion Models】

zik的博客

04-04

5097

CLIP是一个多模态的大模型，用了4亿个（图像、文本）对进行对比学习，学习之后可以直接进行zero-shot推理，并且不需要像ImageNet那样标注1000个类，而是可以人为给出文本提示，进行图片和文本之间的相似度计算，而且迁移效果很好。那么基于此，提出了Classifier-Free Diffusion Guidance，后续非常多的工作都是基于其来进行的，例如DALL·E 2、Imagen等吸引人眼球的模型基本上都是以它为基础做的。直接用训练好的非条件的扩散模型，无需重复训练。

Denoising Diffusion Probabilistic Models (DDPM)

MTandHJ的博客

12-16

4240

文章目录概主要内容Diffusion modelsreverse processforward process变分界损失求解LtL_{t}LtL0L_0L0最后的算法参数代码 Ho J., Jain A. and Abbeel P. Denoising diffusion probabilistic models. In Advances in Neural Information Processing Systems (NIPS), 2020. [Page E. Approximating to

Denoising Diffusion Probabilistic Models

zcg1942的博客

03-09

937

这篇文章就是所谓的DDPM前向扩散过程之和前一步有关，是一阶马尔可夫链，是图像和标准高斯噪声I的加权，认为方差全部来自I，并且多步可以通过连乘合并为一步：反向的过程也是类似的形式：并且由贝叶斯公式，并且贝叶斯中三个概率都是高斯分布，可以得到：首先明确扩散时的一步转移公式。表现形式为信号以某一系数进行衰减，同时加一个高斯噪声（高斯噪声为加性信号无关的高斯噪声）。因为本质就是信号与高斯噪声的alpha blending，所以就需要考虑权重的选择。特别的是前一个状态的信号和噪声的权重之和不是1，而是他们两个平

DDPM（Denoising Diffusion Probabilistic Models）

一个搬运知识的笨小孩

07-02

948

DDPM推导以及代码实现

DDPM( Denoising Diffusion Probabilistic Model )

weixin_43269419的博客

07-20

3798

介绍 DDPM( Denoising Diffusion Probabilistic Model )的算法原理

【DDPM】Denoising Diffusion Probabilistic Models

2201_75801514的博客

10-10

987

我们介绍了利用扩散概率模型获得的高质量图像合成结果，扩散概率模型是一类受非平衡态热力学启发的潜在变量模型。我们的最佳结果是通过在加权变分约束上进行训练获得的，而加权变分约束是根据扩散概率模型和去噪分数匹配与朗格文动力学之间的新联系设计的。在无条件的 CIFAR10 数据集上，我们获得了 9.46 分的入门分数和 3.17 分的先进 FID 分数。在 256x256 LSUN 上，我们获得了与 ProgressiveGAN 类似的样本质量。

DDPM--Denoising Diffusion Probabilistic Models

zephyr_wang的博客

08-21

2272

本文根据2020年《Denoising Diffusion Probabilistic Models》翻译总结的，即DDPM，去噪扩散概率模型。

001_SSSSS_ Denoising Diffusion Probabilistic Models

D_Trump的博客

06-23

823

DDPM阅读笔记

denoising diffusion probabilistic models

09-19

去噪扩散概率模型（Denoising Diffusion Probabilistic Models）是一种用于图像去噪的方法。它基于概率图模型，并通过对图像进行迭代扩散来降低噪声水平。这种方法的关键思想是将图像看作是由真实图像和噪声构成的混合图像。通过建立一个概率图模型，可以对真实图像和噪声进行建模。然后，通过对这个概率模型进行扩散操作，可以较好地恢复出真实图像，并削弱噪声的影响。扩散步骤通过将图像中的像素与周围像素进行交换来实现。每次迭代都会选择当前像素与周围像素交换的概率，这个概率是根据概率模型计算得出的。通过多次迭代，概率模型中的信息会通过扩散过程逐渐传播，从而减小噪声的影响，同时提高对真实图像的估计。特别值得一提的是，Denoising Diffusion Probabilistic Models 方法不需要训练数据集，而是直接通过对图像的迭代扩散来进行去噪。这使得该方法在实际应用中具有较高的灵活性和适用性。总结来说，去噪扩散概率模型是一种使用概率图模型和迭代扩散操作来降低图像噪声的方法。它通过对图像进行多次迭代的扩散操作，逐渐减小噪声的影响，从而恢复出真实图像。这种方法的优点包括不需要训练数据集、适用性强等。