最新最全Diffusion Models论文、代码汇总
1、Diffusion Models扩散模型与深度学习(数学原理和代码解读)
这篇文章适合小白入门看，能快速了解diffusion models背后的物理背景、数学推导、核心思想、代码实现。
2、击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望
这篇文章适合小白入门，在上一篇文章的基础上，更加深入讨论：
- 会不会是下一个GANs？能否解决目前GANs遇到的问题？
- 和现有的生成式模型相比有哪些优点?哪些缺点？
- 目前的网络结构是怎样？
- 如何用代码实现？
- 常用的数据集有哪些？
- 常用的评价指标有哪些？
- 能应用到哪些领域？
- 遇到了哪些问题？
- 发展的瓶颈有哪些？
- 未来的发展会怎样？
3、为什么Diffusion Models扩散模型可以称为Score-based Models？
近两年diffusion models野蛮生长，出现了很多不同的命名方式：denoising diffusion probabilistic models、score-based generative models、generative diffusion processes、energy-based models (EBMs)等，其实他们核心思想都是一样的，这篇文章通过讨论diffusion models为什么可以称为分数匹配模型，能更深入理解扩散模型。
4、条件DDPM：Diffusion model的第三个巅峰之作
DDPM2020年诞生，短短一年的时间，模型上有两个巨大的改进，其中一个就是condition的引入，最近大部分DDPM相关的论文都会讨论这一点，有些文章称之为latent variable。和当年GAN的发展类似，CGAN和DCGAN的出现极大程度上促进了GAN的发扬光大，意义重大。
5、从VAE到Diffusion Models
前面几篇文章更多的在思考GAN和diffusion model之间的关系，VAE作为最经典的生成模型之一，本文从VAE出发，聊一聊VAE和diffusion model之间的爱恨情仇。
6、DiffuseVAE：完美结合VAE和Diffusion Models
生成式模型的根本任务是捕捉底层的数据分布，并学习以无监督的方式从数据的显式/隐式分布中生成新的样本。本文介绍DDPM最新的研究成果DiffuseVAE，解决低维潜在空间上生成样本质量差、采样速度慢等问题。
7、为什么Diffusion Models钟爱U-net结构？
通过前面的文章介绍，大家应该已经基本了解扩散模型的特点，细心的读者会有疑问，为什么现在绝大部分的diffusion models都是U-net结构呢？这个发源于医疗分割的网络结构，为何广受备受diffusion models生成式的喜爱呢？
8、使用DDPM实现三维点云重建
本文重点讨论点云三维重建的相关原理、应用、特殊的处理方法、与传统的DDPM的区别和联系。
9、2021年度最火Diffusion Models：用于图像编辑和text引导图像生成的GLIDE
2021年底OpenAI又推出重磅作品，基于Diffusion Models的图像编辑和text引导图像生成，短短两个月在github上收获了2k个star，要知道DDPM的开山之作开源两年也才区区300个star。GLIDE也为后来的更火的text-to-image任务DELLA·2奠定了基础，这篇博客就和读者们探讨一下这个2021年度最火Diffusion Models。
10、扩散模型Diffusion Models可以看成一种autoencoder自动编码器吗？
2019年开创性论文《Generative Modeling by Estimating Gradients of the Data Distribution》发表后，扩散模型相关论文如雨后春笋一般涌现，其实扩散模型可以看成一种自动编码器。
11、 Score-based Generative Model：一统DDPM和SMLD两大生成式模型
2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。
12、Diffusion Models和GANs结合
作为Diffusion Models最成功的前辈们：flow based models、VAEs、GANs，最近几个月已经有不少将diffusion models和这些经典模型结合的文章，本系列的前文已有介绍。今天介绍的是首次将GANs和diffusion models工作，是一种比较成功的GANs的思路，相同的结合方式迅速流行，给正在做这一方向的小伙伴重要参考与启示。
13、用Diffusion Models实现image-to-image转换
diffusion models诞生到现在，很多论文热衷于把diffusion models带到自己的领域用于生成，也有不少人醉心于用各种奇技淫巧优化采样过程，以改善diffusion models致命的缺点：生成速度太慢。而Palette的诞生意义不亚于pix2pix GANs、cycleGANs，能够实现图像着色、图像修复、图像剪裁恢复、图像解压缩(超分)等等任务。我们第一次发现，原来diffusion models不仅仅能用于生成，还能有这么多有趣的应用！
14、基于diffusion models的无监督Image-to-Image转化
上一篇文章介绍了Palette，对标的是pix2pix GANs，能够实现配对的image域转化。这篇博客介绍一种DDPM，对标cycleGANs，能够实现无配对image之间的域转化，可以轻松完成白天-夜晚转化、苹果-橘子转化、野马-斑马转化、照片去雾、老照片上色、图像修复、超分辨率重建等任务，并且在理论上第一次(2021年4月)提出类似于cycle diffusion models的结构。
15、Diffusion Models在超分辨率领域的应用
GANs在Super-Resolution超分辨率大显身手，取得了很多令人兴奋的成果。作为最先进的生成式模型DDPM，不仅成功挑战了这一任务，而且在各方面的性能达到了SOTA。这篇博客就介绍一下diffusion models如何完成超分任务、背后的原理和实现方法。
16、Video Diffusion Models：基于扩散模型的视频生成
扩散模型已经被广泛运用到图像生成、image-to-image转换、时间序列生成、3D点云生成、文本生成、音频生成等领域，谷歌研究院最新的研究成果成功将diffusion models运用到视频生成领域。
17、 深入理解Conditional Diffusion Models：解读《On Conditioning the Input Noise for Controlled Image Generation》
我之前写了一篇博客《条件DDPM：Diffusion model的第三个巅峰之作》梳理了conditional diffusion models的发展脉络，总结了现在常用的条件使用方法。最近逛arxiv看到一篇最新的论文主打conditional diffusion models，和读者一起读一下这篇论文《On Conditioning the Input Noise for Controlled Image Generation with Diffusion Models》
18、DiffusionCLIP: Text-Guided Diffusion Models for Robust Image Manipulation
之前带大家读过《2021年度最火Diffusion Models：用于图像编辑和高质量图像生成的GLIDE》，最新的CVPR 2022上发表了对标的新工作，我们一起来品读一下这篇论文。
19、Diffusion Models扩散模型的通用框架
扩散模型经过近三年的高速发展，逐步走向成熟。其中典型的代表有DDPM、DDIM、Score-based等，如何将这些扩散模型用一个统一通用框架表示？英伟达研究院六月份发布了一份最新的研究成果成功解决这一问题，大有一统江湖的势头，本文和读者一起深入理解这一工作。
20、如何用Diffusion models做interpolation插值任务？——原理解析和代码实战
很多Diffusion models的论文里都演示了插值任务，今天我们讲解一下如何用DDIM/DDPM做interpolation任务，剖析原理，并给出代码讲解与实战。
21、如何画出diffusion models的扩散过程示意图？
很多diffusion models相关的论文都会画出扩散示意图，如果自己写扩散模型相关论文的时候也会遇到这个问题。这篇博客就手把手教大家如何画出每个时间步骤的扩散过程示意图。
22、解读最新ECCV 2022工作：组合式扩散模型
最近ECCV 2022放榜了，虽然还没有出paper list，但是可以预见会有大量的diffusion models相关工作。今天和大家一起阅读一篇新的diffusion models工作《Compositional Visual Generation with Composable Diffusion Models》
23、Text-to-Image with Diffusion models的巅峰之作：深入解读 DALL·E 2
DALL·E 2、imagen、GLIDE是最著名的三个text-to-image的扩散模型，是diffusion models第一个火出圈的任务。这篇博客将会详细解读DALL·E 2《Hierarchical Text-Conditional Image Generation with CLIP Latents》的原理。
24、无分类器指导的Classifier-free Diffusion Models技术
分类器的引入大大提升了扩散模型的生成质量(FID和IS指标)，但是分类器指导可以看上是一种梯度对抗引导，这就会引入生成对抗网络中存在的一些缺点。作者提出了一种混合了条件扩散模型的分数估计和联合训练的无条件扩散模型，样本的无条件可能性，同时增加了条件可能性，在生成质量上得到进一步的提升。
25、最新Diffusion Models条件生成研究成果：梯度引导法
去年我发布了一篇条件DDPM的博客《条件DDPM：Diffusion model的第三个巅峰之作》，梳理了“分类器引导”、“inference image”、“latent”三种常见的条件添加方式。今年最火的条件diffusion models当属梯度引导法，这篇博客梳理一下最新的条件扩散模型的研究成果。
26、详细解读Latent Diffusion Models：原理和代码
CVPR 2022中的一项新工作latent diffusion models引起了广泛关注，提出了两段式diffusion models能有效节省计算资源，latent attention技术为通用image-to-image任务打下基础，让人耳目一新，具有极强的借鉴意义和启发性，值得深度阅读。
27、详细解读PITI：开启diffusion models image-to-image新时代
最近微软亚洲研究院新出了一项工作，围绕着GLIDE，采用两段式微调的方法，在通用image-to-image模型上取得了非常好的效果。相比于之前的《用Diffusion Models实现image-to-image转换》更进一步。这篇文章就和读者一起深度解读图像翻译领域的最新力作！
28、深入解读：从DDIM到Improved Denoising Diffusion Probabilistic Models
之前的博客解读了《从DDPM到DDIM：深入解读《Denoising Diffusion Implicit Models》，我们理解了从DDPM到DDIM的演化和改进过程。而《Improved Denoising Diffusion Probabilistic Models》是diffusion models发展过程中重要的里程碑，深刻影响了后来的研究过程，值得我们详细理解阅读。
入门基础系列文章汇总
有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。
1、Diffusion Models/Score-based Generative Models背后的深度学习原理(1)：配分函数
2、Diffusion Models/Score-based Generative Models背后的深度学习原理(2)：基于能量模型和受限玻尔兹曼机
3、Diffusion Models/Score-based Generative Models背后的深度学习原理(3)：蒙特卡洛采样法和重要采样法
代码解读系列
大部分DDPM相关的论文代码都是基于《Denoising Diffusion Probabilistic Models》和《Diffusion Models Beat GANs on Image Synthesis》贡献代码基础上小改动的。官方的DDPM是tensorflow TPU版本，暂时没有GPU的版本。本篇文章开始，详细解读一下pytorch和tensorflow版本的代码。
1、DDPM代码详细解读(1)：数据集准备、超参数设置、loss设计、关键参数计算
2、DDPM代码详细解读(2)：Unet结构、正向和逆向过程、IS和FID测试、EMA优化
3、DDPM代码详细解读(3)：图解
最新最全Diffusion Models论文、代码汇总
1、Diffusion Models扩散模型与深度学习(数学原理和代码解读)
这篇文章适合小白入门看，能快速了解diffusion models背后的物理背景、数学推导、核心思想、代码实现。
2、击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望
这篇文章适合小白入门，在上一篇文章的基础上，更加深入讨论：
- 会不会是下一个GANs？能否解决目前GANs遇到的问题？
- 和现有的生成式模型相比有哪些优点?哪些缺点？
- 目前的网络结构是怎样？
- 如何用代码实现？
- 常用的数据集有哪些？
- 常用的评价指标有哪些？
- 能应用到哪些领域？
- 遇到了哪些问题？
- 发展的瓶颈有哪些？
- 未来的发展会怎样？
3、为什么Diffusion Models扩散模型可以称为Score-based Models？
近两年diffusion models野蛮生长，出现了很多不同的命名方式：denoising diffusion probabilistic models、score-based generative models、generative diffusion processes、energy-based models (EBMs)等，其实他们核心思想都是一样的，这篇文章通过讨论diffusion models为什么可以称为分数匹配模型，能更深入理解扩散模型。
4、条件DDPM：Diffusion model的第三个巅峰之作
DDPM2020年诞生，短短一年的时间，模型上有两个巨大的改进，其中一个就是condition的引入，最近大部分DDPM相关的论文都会讨论这一点，有些文章称之为latent variable。和当年GAN的发展类似，CGAN和DCGAN的出现极大程度上促进了GAN的发扬光大，意义重大。
5、从VAE到Diffusion Models
前面几篇文章更多的在思考GAN和diffusion model之间的关系，VAE作为最经典的生成模型之一，本文从VAE出发，聊一聊VAE和diffusion model之间的爱恨情仇。
6、DiffuseVAE：完美结合VAE和Diffusion Models
生成式模型的根本任务是捕捉底层的数据分布，并学习以无监督的方式从数据的显式/隐式分布中生成新的样本。本文介绍DDPM最新的研究成果DiffuseVAE，解决低维潜在空间上生成样本质量差、采样速度慢等问题。
7、为什么Diffusion Models钟爱U-net结构？
通过前面的文章介绍，大家应该已经基本了解扩散模型的特点，细心的读者会有疑问，为什么现在绝大部分的diffusion models都是U-net结构呢？这个发源于医疗分割的网络结构，为何广受备受diffusion models生成式的喜爱呢？
8、使用DDPM实现三维点云重建
本文重点讨论点云三维重建的相关原理、应用、特殊的处理方法、与传统的DDPM的区别和联系。
9、2021年度最火Diffusion Models：用于图像编辑和text引导图像生成的GLIDE
2021年底OpenAI又推出重磅作品，基于Diffusion Models的图像编辑和text引导图像生成，短短两个月在github上收获了2k个star，要知道DDPM的开山之作开源两年也才区区300个star。GLIDE也为后来的更火的text-to-image任务DELLA·2奠定了基础，这篇博客就和读者们探讨一下这个2021年度最火Diffusion Models。
10、扩散模型Diffusion Models可以看成一种autoencoder自动编码器吗？
2019年开创性论文《Generative Modeling by Estimating Gradients of the Data Distribution》发表后，扩散模型相关论文如雨后春笋一般涌现，其实扩散模型可以看成一种自动编码器。
11、 Score-based Generative Model：一统DDPM和SMLD两大生成式模型
2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。
12、Diffusion Models和GANs结合
作为Diffusion Models最成功的前辈们：flow based models、VAEs、GANs，最近几个月已经有不少将diffusion models和这些经典模型结合的文章，本系列的前文已有介绍。今天介绍的是首次将GANs和diffusion models工作，是一种比较成功的GANs的思路，相同的结合方式迅速流行，给正在做这一方向的小伙伴重要参考与启示。
13、用Diffusion Models实现image-to-image转换
diffusion models诞生到现在，很多论文热衷于把diffusion models带到自己的领域用于生成，也有不少人醉心于用各种奇技淫巧优化采样过程，以改善diffusion models致命的缺点：生成速度太慢。而Palette的诞生意义不亚于pix2pix GANs、cycleGANs，能够实现图像着色、图像修复、图像剪裁恢复、图像解压缩(超分)等等任务。我们第一次发现，原来diffusion models不仅仅能用于生成，还能有这么多有趣的应用！
14、基于diffusion models的无监督Image-to-Image转化
上一篇文章介绍了Palette，对标的是pix2pix GANs，能够实现配对的image域转化。这篇博客介绍一种DDPM，对标cycleGANs，能够实现无配对image之间的域转化，可以轻松完成白天-夜晚转化、苹果-橘子转化、野马-斑马转化、照片去雾、老照片上色、图像修复、超分辨率重建等任务，并且在理论上第一次(2021年4月)提出类似于cycle diffusion models的结构。
15、Diffusion Models在超分辨率领域的应用
GANs在Super-Resolution超分辨率大显身手，取得了很多令人兴奋的成果。作为最先进的生成式模型DDPM，不仅成功挑战了这一任务，而且在各方面的性能达到了SOTA。这篇博客就介绍一下diffusion models如何完成超分任务、背后的原理和实现方法。
16、Video Diffusion Models：基于扩散模型的视频生成
扩散模型已经被广泛运用到图像生成、image-to-image转换、时间序列生成、3D点云生成、文本生成、音频生成等领域，谷歌研究院最新的研究成果成功将diffusion models运用到视频生成领域。
17、 深入理解Conditional Diffusion Models：解读《On Conditioning the Input Noise for Controlled Image Generation》
我之前写了一篇博客《条件DDPM：Diffusion model的第三个巅峰之作》梳理了conditional diffusion models的发展脉络，总结了现在常用的条件使用方法。最近逛arxiv看到一篇最新的论文主打conditional diffusion models，和读者一起读一下这篇论文《On Conditioning the Input Noise for Controlled Image Generation with Diffusion Models》
18、DiffusionCLIP: Text-Guided Diffusion Models for Robust Image Manipulation
之前带大家读过《2021年度最火Diffusion Models：用于图像编辑和高质量图像生成的GLIDE》，最新的CVPR 2022上发表了对标的新工作，我们一起来品读一下这篇论文。
19、Diffusion Models扩散模型的通用框架
扩散模型经过近三年的高速发展，逐步走向成熟。其中典型的代表有DDPM、DDIM、Score-based等，如何将这些扩散模型用一个统一通用框架表示？英伟达研究院六月份发布了一份最新的研究成果成功解决这一问题，大有一统江湖的势头，本文和读者一起深入理解这一工作。
20、如何用Diffusion models做interpolation插值任务？——原理解析和代码实战
很多Diffusion models的论文里都演示了插值任务，今天我们讲解一下如何用DDIM/DDPM做interpolation任务，剖析原理，并给出代码讲解与实战。
21、如何画出diffusion models的扩散过程示意图？
很多diffusion models相关的论文都会画出扩散示意图，如果自己写扩散模型相关论文的时候也会遇到这个问题。这篇博客就手把手教大家如何画出每个时间步骤的扩散过程示意图。
22、解读最新ECCV 2022工作：组合式扩散模型
最近ECCV 2022放榜了，虽然还没有出paper list，但是可以预见会有大量的diffusion models相关工作。今天和大家一起阅读一篇新的diffusion models工作《Compositional Visual Generation with Composable Diffusion Models》
23、Text-to-Image with Diffusion models的巅峰之作：深入解读 DALL·E 2
DALL·E 2、imagen、GLIDE是最著名的三个text-to-image的扩散模型，是diffusion models第一个火出圈的任务。这篇博客将会详细解读DALL·E 2《Hierarchical Text-Conditional Image Generation with CLIP Latents》的原理。
24、无分类器指导的Classifier-free Diffusion Models技术
分类器的引入大大提升了扩散模型的生成质量(FID和IS指标)，但是分类器指导可以看上是一种梯度对抗引导，这就会引入生成对抗网络中存在的一些缺点。作者提出了一种混合了条件扩散模型的分数估计和联合训练的无条件扩散模型，样本的无条件可能性，同时增加了条件可能性，在生成质量上得到进一步的提升。
25、最新Diffusion Models条件生成研究成果：梯度引导法
去年我发布了一篇条件DDPM的博客《条件DDPM：Diffusion model的第三个巅峰之作》，梳理了“分类器引导”、“inference image”、“latent”三种常见的条件添加方式。今年最火的条件diffusion models当属梯度引导法，这篇博客梳理一下最新的条件扩散模型的研究成果。
26、详细解读Latent Diffusion Models：原理和代码
CVPR 2022中的一项新工作latent diffusion models引起了广泛关注，提出了两段式diffusion models能有效节省计算资源，latent attention技术为通用image-to-image任务打下基础，让人耳目一新，具有极强的借鉴意义和启发性，值得深度阅读。
27、详细解读PITI：开启diffusion models image-to-image新时代
最近微软亚洲研究院新出了一项工作，围绕着GLIDE，采用两段式微调的方法，在通用image-to-image模型上取得了非常好的效果。相比于之前的《用Diffusion Models实现image-to-image转换》更进一步。这篇文章就和读者一起深度解读图像翻译领域的最新力作！
28、深入解读：从DDIM到Improved Denoising Diffusion Probabilistic Models
之前的博客解读了《从DDPM到DDIM：深入解读《Denoising Diffusion Implicit Models》，我们理解了从DDPM到DDIM的演化和改进过程。而《Improved Denoising Diffusion Probabilistic Models》是diffusion models发展过程中重要的里程碑，深刻影响了后来的研究过程，值得我们详细理解阅读。
入门基础系列文章汇总
有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。
1、Diffusion Models/Score-based Generative Models背后的深度学习原理(1)：配分函数
2、Diffusion Models/Score-based Generative Models背后的深度学习原理(2)：基于能量模型和受限玻尔兹曼机
3、Diffusion Models/Score-based Generative Models背后的深度学习原理(3)：蒙特卡洛采样法和重要采样法
代码解读系列
大部分DDPM相关的论文代码都是基于《Denoising Diffusion Probabilistic Models》和《Diffusion Models Beat GANs on Image Synthesis》贡献代码基础上小改动的。官方的DDPM是tensorflow TPU版本，暂时没有GPU的版本。本篇文章开始，详细解读一下pytorch和tensorflow版本的代码。
1、DDPM代码详细解读(1)：数据集准备、超参数设置、loss设计、关键参数计算
2、DDPM代码详细解读(2)：Unet结构、正向和逆向过程、IS和FID测试、EMA优化
3、DDPM代码详细解读(3)：图解模型各部分结构、用ConvNextBlock代替Resnet
这个系列曾经写过三篇文章专门讲代码，分别从数据集、超参数、loss设计、参数计算、Unet结构、正向过程、逆向过程等部分详细介绍了如何搭建DDPM。Diffusion models领域发展神速，最近半年代表作品有OpenAI的GLIDE、DALL-E 2，Google Brain的ImageGen，海森堡大学的Latent Diffusion。这篇博客针对入门新手讲解一下如何利用已有的资源快速搭建自己的Diffusion models。
代码实战——从零开始搭建自己的Diffusion models/Score-based generative models
模型各部分结构、用ConvNextBlock代替Resnet
最新最全Diffusion Models论文、代码汇总
1、Diffusion Models扩散模型与深度学习(数学原理和代码解读)
这篇文章适合小白入门看，能快速了解diffusion models背后的物理背景、数学推导、核心思想、代码实现。
2、击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望
这篇文章适合小白入门，在上一篇文章的基础上，更加深入讨论：
- 会不会是下一个GANs？能否解决目前GANs遇到的问题？
- 和现有的生成式模型相比有哪些优点?哪些缺点？
- 目前的网络结构是怎样？
- 如何用代码实现？
- 常用的数据集有哪些？
- 常用的评价指标有哪些？
- 能应用到哪些领域？
- 遇到了哪些问题？
- 发展的瓶颈有哪些？
- 未来的发展会怎样？
3、为什么Diffusion Models扩散模型可以称为Score-based Models？
近两年diffusion models野蛮生长，出现了很多不同的命名方式：denoising diffusion probabilistic models、score-based generative models、generative diffusion processes、energy-based models (EBMs)等，其实他们核心思想都是一样的，这篇文章通过讨论diffusion models为什么可以称为分数匹配模型，能更深入理解扩散模型。
4、条件DDPM：Diffusion model的第三个巅峰之作
DDPM2020年诞生，短短一年的时间，模型上有两个巨大的改进，其中一个就是condition的引入，最近大部分DDPM相关的论文都会讨论这一点，有些文章称之为latent variable。和当年GAN的发展类似，CGAN和DCGAN的出现极大程度上促进了GAN的发扬光大，意义重大。
5、从VAE到Diffusion Models
前面几篇文章更多的在思考GAN和diffusion model之间的关系，VAE作为最经典的生成模型之一，本文从VAE出发，聊一聊VAE和diffusion model之间的爱恨情仇。
6、DiffuseVAE：完美结合VAE和Diffusion Models
生成式模型的根本任务是捕捉底层的数据分布，并学习以无监督的方式从数据的显式/隐式分布中生成新的样本。本文介绍DDPM最新的研究成果DiffuseVAE，解决低维潜在空间上生成样本质量差、采样速度慢等问题。
7、为什么Diffusion Models钟爱U-net结构？
通过前面的文章介绍，大家应该已经基本了解扩散模型的特点，细心的读者会有疑问，为什么现在绝大部分的diffusion models都是U-net结构呢？这个发源于医疗分割的网络结构，为何广受备受diffusion models生成式的喜爱呢？
8、使用DDPM实现三维点云重建
本文重点讨论点云三维重建的相关原理、应用、特殊的处理方法、与传统的DDPM的区别和联系。
9、2021年度最火Diffusion Models：用于图像编辑和text引导图像生成的GLIDE
2021年底OpenAI又推出重磅作品，基于Diffusion Models的图像编辑和text引导图像生成，短短两个月在github上收获了2k个star，要知道DDPM的开山之作开源两年也才区区300个star。GLIDE也为后来的更火的text-to-image任务DELLA·2奠定了基础，这篇博客就和读者们探讨一下这个2021年度最火Diffusion Models。
10、扩散模型Diffusion Models可以看成一种autoencoder自动编码器吗？
2019年开创性论文《Generative Modeling by Estimating Gradients of the Data Distribution》发表后，扩散模型相关论文如雨后春笋一般涌现，其实扩散模型可以看成一种自动编码器。
11、 Score-based Generative Model：一统DDPM和SMLD两大生成式模型
2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。
12、Diffusion Models和GANs结合
作为Diffusion Models最成功的前辈们：flow based models、VAEs、GANs，最近几个月已经有不少将diffusion models和这些经典模型结合的文章，本系列的前文已有介绍。今天介绍的是首次将GANs和diffusion models工作，是一种比较成功的GANs的思路，相同的结合方式迅速流行，给正在做这一方向的小伙伴重要参考与启示。
13、用Diffusion Models实现image-to-image转换
diffusion models诞生到现在，很多论文热衷于把diffusion models带到自己的领域用于生成，也有不少人醉心于用各种奇技淫巧优化采样过程，以改善diffusion models致命的缺点：生成速度太慢。而Palette的诞生意义不亚于pix2pix GANs、cycleGANs，能够实现图像着色、图像修复、图像剪裁恢复、图像解压缩(超分)等等任务。我们第一次发现，原来diffusion models不仅仅能用于生成，还能有这么多有趣的应用！
14、基于diffusion models的无监督Image-to-Image转化
上一篇文章介绍了Palette，对标的是pix2pix GANs，能够实现配对的image域转化。这篇博客介绍一种DDPM，对标cycleGANs，能够实现无配对image之间的域转化，可以轻松完成白天-夜晚转化、苹果-橘子转化、野马-斑马转化、照片去雾、老照片上色、图像修复、超分辨率重建等任务，并且在理论上第一次(2021年4月)提出类似于cycle diffusion models的结构。
15、Diffusion Models在超分辨率领域的应用
GANs在Super-Resolution超分辨率大显身手，取得了很多令人兴奋的成果。作为最先进的生成式模型DDPM，不仅成功挑战了这一任务，而且在各方面的性能达到了SOTA。这篇博客就介绍一下diffusion models如何完成超分任务、背后的原理和实现方法。
16、Video Diffusion Models：基于扩散模型的视频生成
扩散模型已经被广泛运用到图像生成、image-to-image转换、时间序列生成、3D点云生成、文本生成、音频生成等领域，谷歌研究院最新的研究成果成功将diffusion models运用到视频生成领域。
17、 深入理解Conditional Diffusion Models：解读《On Conditioning the Input Noise for Controlled Image Generation》
我之前写了一篇博客《条件DDPM：Diffusion model的第三个巅峰之作》梳理了conditional diffusion models的发展脉络，总结了现在常用的条件使用方法。最近逛arxiv看到一篇最新的论文主打conditional diffusion models，和读者一起读一下这篇论文《On Conditioning the Input Noise for Controlled Image Generation with Diffusion Models》
18、DiffusionCLIP: Text-Guided Diffusion Models for Robust Image Manipulation
之前带大家读过《2021年度最火Diffusion Models：用于图像编辑和高质量图像生成的GLIDE》，最新的CVPR 2022上发表了对标的新工作，我们一起来品读一下这篇论文。
19、Diffusion Models扩散模型的通用框架
扩散模型经过近三年的高速发展，逐步走向成熟。其中典型的代表有DDPM、DDIM、Score-based等，如何将这些扩散模型用一个统一通用框架表示？英伟达研究院六月份发布了一份最新的研究成果成功解决这一问题，大有一统江湖的势头，本文和读者一起深入理解这一工作。
20、如何用Diffusion models做interpolation插值任务？——原理解析和代码实战
很多Diffusion models的论文里都演示了插值任务，今天我们讲解一下如何用DDIM/DDPM做interpolation任务，剖析原理，并给出代码讲解与实战。
21、如何画出diffusion models的扩散过程示意图？
很多diffusion models相关的论文都会画出扩散示意图，如果自己写扩散模型相关论文的时候也会遇到这个问题。这篇博客就手把手教大家如何画出每个时间步骤的扩散过程示意图。
22、解读最新ECCV 2022工作：组合式扩散模型
最近ECCV 2022放榜了，虽然还没有出paper list，但是可以预见会有大量的diffusion models相关工作。今天和大家一起阅读一篇新的diffusion models工作《Compositional Visual Generation with Composable Diffusion Models》
23、Text-to-Image with Diffusion models的巅峰之作：深入解读 DALL·E 2
DALL·E 2、imagen、GLIDE是最著名的三个text-to-image的扩散模型，是diffusion models第一个火出圈的任务。这篇博客将会详细解读DALL·E 2《Hierarchical Text-Conditional Image Generation with CLIP Latents》的原理。
24、无分类器指导的Classifier-free Diffusion Models技术
分类器的引入大大提升了扩散模型的生成质量(FID和IS指标)，但是分类器指导可以看上是一种梯度对抗引导，这就会引入生成对抗网络中存在的一些缺点。作者提出了一种混合了条件扩散模型的分数估计和联合训练的无条件扩散模型，样本的无条件可能性，同时增加了条件可能性，在生成质量上得到进一步的提升。
25、最新Diffusion Models条件生成研究成果：梯度引导法
去年我发布了一篇条件DDPM的博客《条件DDPM：Diffusion model的第三个巅峰之作》，梳理了“分类器引导”、“inference image”、“latent”三种常见的条件添加方式。今年最火的条件diffusion models当属梯度引导法，这篇博客梳理一下最新的条件扩散模型的研究成果。
26、详细解读Latent Diffusion Models：原理和代码
CVPR 2022中的一项新工作latent diffusion models引起了广泛关注，提出了两段式diffusion models能有效节省计算资源，latent attention技术为通用image-to-image任务打下基础，让人耳目一新，具有极强的借鉴意义和启发性，值得深度阅读。
27、详细解读PITI：开启diffusion models image-to-image新时代
最近微软亚洲研究院新出了一项工作，围绕着GLIDE，采用两段式微调的方法，在通用image-to-image模型上取得了非常好的效果。相比于之前的《用Diffusion Models实现image-to-image转换》更进一步。这篇文章就和读者一起深度解读图像翻译领域的最新力作！
28、深入解读：从DDIM到Improved Denoising Diffusion Probabilistic Models
之前的博客解读了《从DDPM到DDIM：深入解读《Denoising Diffusion Implicit Models》，我们理解了从DDPM到DDIM的演化和改进过程。而《Improved Denoising Diffusion Probabilistic Models》是diffusion models发展过程中重要的里程碑，深刻影响了后来的研究过程，值得我们详细理解阅读。
入门基础系列文章汇总
有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。
1、Diffusion Models/Score-based Generative Models背后的深度学习原理(1)：配分函数
2、Diffusion Models/Score-based Generative Models背后的深度学习原理(2)：基于能量模型和受限玻尔兹曼机
3、Diffusion Models/Score-based Generative Models背后的深度学习原理(3)：蒙特卡洛采样法和重要采样法
代码解读系列
大部分DDPM相关的论文代码都是基于《Denoising Diffusion Probabilistic Models》和《Diffusion Models Beat GANs on Image Synthesis》贡献代码基础上小改动的。官方的DDPM是tensorflow TPU版本，暂时没有GPU的版本。本篇文章开始，详细解读一下pytorch和tensorflow版本的代码。
1、DDPM代码详细解读(1)：数据集准备、超参数设置、loss设计、关键参数计算
2、DDPM代码详细解读(2)：Unet结构、正向和逆向过程、IS和FID测试、EMA优化
3、DDPM代码详细解读(3)：图解模型各部分结构、用ConvNextBlock代替Resnet
这个系列曾经写过三篇文章专门讲代码，分别从数据集、超参数、loss设计、参数计算、Unet结构、正向过程、逆向过程等部分详细介绍了如何搭建DDPM。Diffusion models领域发展神速，最近半年代表作品有OpenAI的GLIDE、DALL-E 2，Google Brain的ImageGen，海森堡大学的Latent Diffusion。这篇博客针对入门新手讲解一下如何利用已有的资源快速搭建自己的Diffusion models。
代码实战——从零开始搭建自己的Diffusion models/Score-based generative models
这个系列曾经写过三篇文章专门讲代码，分别从数据集、超参数、loss设计、参数计算、Unet结构、正向过程、逆向过程等部分详细介绍了如何搭建DDPM。Diffu
sion models领域发展神速，最近半年代表作品有OpenAI的GLIDE、DALL-E 2，Google Brain的ImageGen，海森堡大学的Latent Diffusion。这篇博客针对入门新手讲解一下如何利用已有的资源快速搭建自己的Diffusion mode最新最全Diffusion Models论文、代码汇总
1、Diffusion Models扩散模型与深度学习(数学原理和代码解读)
这篇文章适合小白入门看，能快速了解diffusion models背后的物理背景、数学推导、核心思想、代码实现。
2、击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望
这篇文章适合小白入门，在上一篇文章的基础上，更加深入讨论：
- 会不会是下一个GANs？能否解决目前GANs遇到的问题？
- 和现有的生成式模型相比有哪些优点?哪些缺点？
- 目前的网络结构是怎样？
- 如何用代码实现？
- 常用的数据集有哪些？
- 常用的评价指标有哪些？
- 能应用到哪些领域？
- 遇到了哪些问题？
- 发展的瓶颈有哪些？
- 未来的发展会怎样？
3、为什么Diffusion Models扩散模型可以称为Score-based Models？
近两年diffusion models野蛮生长，出现了很多不同的命名方式：denoising diffusion probabilistic models、score-based generative models、generative diffusion processes、energy-based models (EBMs)等，其实他们核心思想都是一样的，这篇文章通过讨论diffusion models为什么可以称为分数匹配模型，能更深入理解扩散模型。
4、条件DDPM：Diffusion model的第三个巅峰之作
DDPM2020年诞生，短短一年的时间，模型上有两个巨大的改进，其中一个就是condition的引入，最近大部分DDPM相关的论文都会讨论这一点，有些文章称之为latent variable。和当年GAN的发展类似，CGAN和DCGAN的出现极大程度上促进了GAN的发扬光大，意义重大。
5、从VAE到Diffusion Models
前面几篇文章更多的在思考GAN和diffusion model之间的关系，VAE作为最经典的生成模型之一，本文从VAE出发，聊一聊VAE和diffusion model之间的爱恨情仇。
6、DiffuseVAE：完美结合VAE和Diffusion Models
生成式模型的根本任务是捕捉底层的数据分布，并学习以无监督的方式从数据的显式/隐式分布中生成新的样本。本文介绍DDPM最新的研究成果DiffuseVAE，解决低维潜在空间上生成样本质量差、采样速度慢等问题。
7、为什么Diffusion Models钟爱U-net结构？
通过前面的文章介绍，大家应该已经基本了解扩散模型的特点，细心的读者会有疑问，为什么现在绝大部分的diffusion models都是U-net结构呢？这个发源于医疗分割的网络结构，为何广受备受diffusion models生成式的喜爱呢？
8、使用DDPM实现三维点云重建
本文重点讨论点云三维重建的相关原理、应用、特殊的处理方法、与传统的DDPM的区别和联系。
9、2021年度最火Diffusion Models：用于图像编辑和text引导图像生成的GLIDE
2021年底OpenAI又推出重磅作品，基于Diffusion Models的图像编辑和text引导图像生成，短短两个月在github上收获了2k个star，要知道DDPM的开山之作开源两年也才区区300个star。GLIDE也为后来的更火的text-to-image任务DELLA·2奠定了基础，这篇博客就和读者们探讨一下这个2021年度最火Diffusion Models。
10、扩散模型Diffusion Models可以看成一种autoencoder自动编码器吗？
2019年开创性论文《Generative Modeling by Estimating Gradients of the Data Distribution》发表后，扩散模型相关论文如雨后春笋一般涌现，其实扩散模型可以看成一种自动编码器。
11、 Score-based Generative Model：一统DDPM和SMLD两大生成式模型
2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。
12、Diffusion Models和GANs结合
作为Diffusion Models最成功的前辈们：flow based models、VAEs、GANs，最近几个月已经有不少将diffusion models和这些经典模型结合的文章，本系列的前文已有介绍。今天介绍的是首次将GANs和diffusion models工作，是一种比较成功的GANs的思路，相同的结合方式迅速流行，给正在做这一方向的小伙伴重要参考与启示。
13、用Diffusion Models实现image-to-image转换
diffusion models诞生到现在，很多论文热衷于把diffusion models带到自己的领域用于生成，也有不少人醉心于用各种奇技淫巧优化采样过程，以改善diffusion models致命的缺点：生成速度太慢。而Palette的诞生意义不亚于pix2pix GANs、cycleGANs，能够实现图像着色、图像修复、图像剪裁恢复、图像解压缩(超分)等等任务。我们第一次发现，原来diffusion models不仅仅能用于生成，还能有这么多有趣的应用！
14、基于diffusion models的无监督Image-to-Image转化
上一篇文章介绍了Palette，对标的是pix2pix GANs，能够实现配对的image域转化。这篇博客介绍一种DDPM，对标cycleGANs，能够实现无配对image之间的域转化，可以轻松完成白天-夜晚转化、苹果-橘子转化、野马-斑马转化、照片去雾、老照片上色、图像修复、超分辨率重建等任务，并且在理论上第一次(2021年4月)提出类似于cycle diffusion models的结构。
15、Diffusion Models在超分辨率领域的应用
GANs在Super-Resolution超分辨率大显身手，取得了很多令人兴奋的成果。作为最先进的生成式模型DDPM，不仅成功挑战了这一任务，而且在各方面的性能达到了SOTA。这篇博客就介绍一下diffusion models如何完成超分任务、背后的原理和实现方法。
16、Video Diffusion Models：基于扩散模型的视频生成
扩散模型已经被广泛运用到图像生成、image-to-image转换、时间序列生成、3D点云生成、文本生成、音频生成等领域，谷歌研究院最新的研究成果成功将diffusion models运用到视频生成领域。
17、 深入理解Conditional Diffusion Models：解读《On Conditioning the Input Noise for Controlled Image Generation》
我之前写了一篇博客《条件DDPM：Diffusion model的第三个巅峰之作》梳理了conditional diffusion models的发展脉络，总结了现在常用的条件使用方法。最近逛arxiv看到一篇最新的论文主打conditional diffusion models，和读者一起读一下这篇论文《On Conditioning the Input Noise for Controlled Image Generation with Diffusion Models》
18、DiffusionCLIP: Text-Guided Diffusion Models for Robust Image Manipulation
之前带大家读过《2021年度最火Diffusion Models：用于图像编辑和高质量图像生成的GLIDE》，最新的CVPR 2022上发表了对标的新工作，我们一起来品读一下这篇论文。
19、Diffusion Models扩散模型的通用框架
扩散模型经过近三年的高速发展，逐步走向成熟。其中典型的代表有DDPM、DDIM、Score-based等，如何将这些扩散模型用一个统一通用框架表示？英伟达研究院六月份发布了一份最新的研究成果成功解决这一问题，大有一统江湖的势头，本文和读者一起深入理解这一工作。
20、如何用Diffusion models做interpolation插值任务？——原理解析和代码实战
很多Diffusion models的论文里都演示了插值任务，今天我们讲解一下如何用DDIM/DDPM做interpolation任务，剖析原理，并给出代码讲解与实战。
21、如何画出diffusion models的扩散过程示意图？
很多diffusion models相关的论文都会画出扩散示意图，如果自己写扩散模型相关论文的时候也会遇到这个问题。这篇博客就手把手教大家如何画出每个时间步骤的扩散过程示意图。
22、解读最新ECCV 2022工作：组合式扩散模型
最近ECCV 2022放榜了，虽然还没有出paper list，但是可以预见会有大量的diffusion models相关工作。今天和大家一起阅读一篇新的diffusion models工作《Compositional Visual Generation with Composable Diffusion Models》
23、Text-to-Image with Diffusion models的巅峰之作：深入解读 DALL·E 2
DALL·E 2、imagen、GLIDE是最著名的三个text-to-image的扩散模型，是diffusion models第一个火出圈的任务。这篇博客将会详细解读DALL·E 2《Hierarchical Text-Conditional Image Generation with CLIP Latents》的原理。
24、无分类器指导的Classifier-free Diffusion Models技术
分类器的引入大大提升了扩散模型的生成质量(FID和IS指标)，但是分类器指导可以看上是一种梯度对抗引导，这就会引入生成对抗网络中存在的一些缺点。作者提出了一种混合了条件扩散模型的分数估计和联合训练的无条件扩散模型，样本的无条件可能性，同时增加了条件可能性，在生成质量上得到进一步的提升。
25、最新Diffusion Models条件生成研究成果：梯度引导法
去年我发布了一篇条件DDPM的博客《条件DDPM：Diffusion model的第三个巅峰之作》，梳理了“分类器引导”、“inference image”、“latent”三种常见的条件添加方式。今年最火的条件diffusion models当属梯度引导法，这篇博客梳理一下最新的条件扩散模型的研究成果。
26、详细解读Latent Diffusion Models：原理和代码
CVPR 2022中的一项新工作latent diffusion models引起了广泛关注，提出了两段式diffusion models能有效节省计算资源，latent attention技术为通用image-to-image任务打下基础，让人耳目一新，具有极强的借鉴意义和启发性，值得深度阅读。
27、详细解读PITI：开启diffusion models image-to-image新时代
最近微软亚洲研究院新出了一项工作，围绕着GLIDE，采用两段式微调的方法，在通用image-to-image模型上取得了非常好的效果。相比于之前的《用Diffusion Models实现image-to-image转换》更进一步。这篇文章就和读者一起深度解读图像翻译领域的最新力作！
28、深入解读：从DDIM到Improved Denoising Diffusion Probabilistic Models
之前的博客解读了《从DDPM到DDIM：深入解读《Denoising Diffusion Implicit Models》，我们理解了从DDPM到DDIM的演化和改进过程。而《Improved Denoising Diffusion Probabilistic Models》是diffusion models发展过程中重要的里程碑，深刻影响了后来的研究过程，值得我们详细理解阅读。
入门基础系列文章汇总
有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。
1、Diffusion Models/Score-based Generative Models背后的深度学习原理(1)：配分函数
2、Diffusion Models/Score-based Generative Models背后的深度学习原理(2)：基于能量模型和受限玻尔兹曼机
3、Diffusion Models/Score-based Generative Models背后的深度学习原理(3)：蒙特卡洛采样法和重要采样法
代码解读系列
大部分DDPM相关的论文代码都是基于《Denoising Diffusion Probabilistic Models》和《Diffusion Models Beat GANs on Image Synthesis》贡献代码基础上小改动的。官方的DDPM是tensorflow TPU版本，暂时没有GPU的版本。本篇文章开始，详细解读一下pytorch和tensorflow版本的代码。
1、DDPM代码详细解读(1)：数据集准备、超参数设置、loss设计、关键参数计算
2、DDPM代码详细解读(2)：Unet结构、正向和逆向过程、IS和FID测试、EMA优化
3、DDPM代码详细解读(3)：图解模型各部分结构、用ConvNextBlock代替Resnet这个系列曾经写过三篇文章专门讲代码，分别从数据集、超参数、loss设计、参数计算、Unet结构、正向过程、逆向过程等部分详细介绍了如何搭建DDPM。Diffusion models领域发展神速，最近半年代表作品有OpenAI的GLIDE、DALL-E 2，Google Brain的ImageGen，海森堡大学的Latent Diffusion。这篇博客针对入门新手讲解一下如何利用已有的资源快速搭建自己的Diffusion models。
代码实战——从零开始搭建自己的Diffusion models/Score-based generative models
ls。最新最全Diffusion Models论文、代码汇总
1、Diffusion Models扩散模型与深度学习(数学原理和代码解读)
这篇文章适合小白入门看，能快速了解diffusion models背后的物理背景、数学推导、核心思想、代码实现。
2、击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望
这篇文章适合小白入门，在上一篇文章的基础上，更加深入讨论：
- 会不会是下一个GANs？能否解决目前GANs遇到的问题？
- 和现有的生成式模型相比有哪些优点?哪些缺点？
- 目前的网络结构是怎样？
- 如何用代码实现？
- 常用的数据集有哪些？
- 常用的评价指标有哪些？
- 能应用到哪些领域？
- 遇到了哪些问题？
- 发展的瓶颈有哪些？
- 未来的发展会怎样？
3、为什么Diffusion Models扩散模型可以称为Score-based Models？
近两年diffusion models野蛮生长，出现了很多不同的命名方式：denoising diffusion probabilistic models、score-based generative models、generative diffusion processes、energy-based models (EBMs)等，其实他们核心思想都是一样的，这篇文章通过讨论diffusion models为什么可以称为分数匹配模型，能更深入理解扩散模型。
4、条件DDPM：Diffusion model的第三个巅峰之作
DDPM2020年诞生，短短一年的时间，模型上有两个巨大的改进，其中一个就是condition的引入，最近大部分DDPM相关的论文都会讨论这一点，有些文章称之为latent variable。和当年GAN的发展类似，CGAN和DCGAN的出现极大程度上促进了GAN的发扬光大，意义重大。
5、从VAE到Diffusion Models
前面几篇文章更多的在思考GAN和diffusion model之间的关系，VAE作为最经典的生成模型之一，本文从VAE出发，聊一聊VAE和diffusion model之间的爱恨情仇。
6、DiffuseVAE：完美结合VAE和Diffusion Models
生成式模型的根本任务是捕捉底层的数据分布，并学习以无监督的方式从数据的显式/隐式分布中生成新的样本。本文介绍DDPM最新的研究成果DiffuseVAE，解决低维潜在空间上生成样本质量差、采样速度慢等问题。
7、为什么Diffusion Models钟爱U-net结构？
通过前面的文章介绍，大家应该已经基本了解扩散模型的特点，细心的读者会有疑问，为什么现在绝大部分的diffusion models都是U-net结构呢？这个发源于医疗分割的网络结构，为何广受备受diffusion models生成式的喜爱呢？
8、使用DDPM实现三维点云重建
本文重点讨论点云三维重建的相关原理、应用、特殊的处理方法、与传统的DDPM的区别和联系。
9、2021年度最火Diffusion Models：用于图像编辑和text引导图像生成的GLIDE
2021年底OpenAI又推出重磅作品，基于Diffusion Models的图像编辑和text引导图像生成，短短两个月在github上收获了2k个star，要知道DDPM的开山之作开源两年也才区区300个star。GLIDE也为后来的更火的text-to-image任务DELLA·2奠定了基础，这篇博客就和读者们探讨一下这个2021年度最火Diffusion Models。
10、扩散模型Diffusion Models可以看成一种autoencoder自动编码器吗？
2019年开创性论文《Generative Modeling by Estimating Gradients of the Data Distribution》发表后，扩散模型相关论文如雨后春笋一般涌现，其实扩散模型可以看成一种自动编码器。
11、 Score-based Generative Model：一统DDPM和SMLD两大生成式模型
2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。
12、Diffusion Models和GANs结合
作为Diffusion Models最成功的前辈们：flow based models、VAEs、GANs，最近几个月已经有不少将diffusion models和这些经典模型结合的文章，本系列的前文已有介绍。今天介绍的是首次将GANs和diffusion models工作，是一种比较成功的GANs的思路，相同的结合方式迅速流行，给正在做这一方向的小伙伴重要参考与启示。
13、用Diffusion Models实现image-to-image转换
diffusion models诞生到现在，很多论文热衷于把diffusion models带到自己的领域用于生成，也有不少人醉心于用各种奇技淫巧优化采样过程，以改善diffusion models致命的缺点：生成速度太慢。而Palette的诞生意义不亚于pix2pix GANs、cycleGANs，能够实现图像着色、图像修复、图像剪裁恢复、图像解压缩(超分)等等任务。我们第一次发现，原来diffusion models不仅仅能用于生成，还能有这么多有趣的应用！
14、基于diffusion models的无监督Image-to-Image转化
上一篇文章介绍了Palette，对标的是pix2pix GANs，能够实现配对的image域转化。这篇博客介绍一种DDPM，对标cycleGANs，能够实现无配对image之间的域转化，可以轻松完成白天-夜晚转化、苹果-橘子转化、野马-斑马转化、照片去雾、老照片上色、图像修复、超分辨率重建等任务，并且在理论上第一次(2021年4月)提出类似于cycle diffusion models的结构。
15、Diffusion Models在超分辨率领域的应用
GANs在Super-Resolution超分辨率大显身手，取得了很多令人兴奋的成果。作为最先进的生成式模型DDPM，不仅成功挑战了这一任务，而且在各方面的性能达到了SOTA。这篇博客就介绍一下diffusion models如何完成超分任务、背后的原理和实现方法。
16、Video Diffusion Models：基于扩散模型的视频生成
扩散模型已经被广泛运用到图像生成、image-to-image转换、时间序列生成、3D点云生成、文本生成、音频生成等领域，谷歌研究院最新的研究成果成功将diffusion models运用到视频生成领域。
17、 深入理解Conditional Diffusion Models：解读《On Conditioning the Input Noise for Controlled Image Generation》
我之前写了一篇博客《条件DDPM：Diffusion model的第三个巅峰之作》梳理了conditional diffusion models的发展脉络，总结了现在常用的条件使用方法。最近逛arxiv看到一篇最新的论文主打conditional diffusion models，和读者一起读一下这篇论文《On Conditioning the Input Noise for Controlled Image Generation with Diffusion Models》
18、DiffusionCLIP: Text-Guided Diffusion Models for Robust Image Manipulation
之前带大家读过《2021年度最火Diffusion Models：用于图像编辑和高质量图像生成的GLIDE》，最新的CVPR 2022上发表了对标的新工作，我们一起来品读一下这篇论文。
19、Diffusion Models扩散模型的通用框架
扩散模型经过近三年的高速发展，逐步走向成熟。其中典型的代表有DDPM、DDIM、Score-based等，如何将这些扩散模型用一个统一通用框架表示？英伟达研究院六月份发布了一份最新的研究成果成功解决这一问题，大有一统江湖的势头，本文和读者一起深入理解这一工作。
20、如何用Diffusion models做interpolation插值任务？——原理解析和代码实战
很多Diffusion models的论文里都演示了插值任务，今天我们讲解一下如何用DDIM/DDPM做interpolation任务，剖析原理，并给出代码讲解与实战。
21、如何画出diffusion models的扩散过程示意图？
很多diffusion models相关的论文都会画出扩散示意图，如果自己写扩散模型相关论文的时候也会遇到这个问题。这篇博客就手把手教大家如何画出每个时间步骤的扩散过程示意图。
22、解读最新ECCV 2022工作：组合式扩散模型
最近ECCV 2022放榜了，虽然还没有出paper list，但是可以预见会有大量的diffusion models相关工作。今天和大家一起阅读一篇新的diffusion models工作《Compositional Visual Generation with Composable Diffusion Models》
23、Text-to-Image with Diffusion models的巅峰之作：深入解读 DALL·E 2
DALL·E 2、imagen、GLIDE是最著名的三个text-to-image的扩散模型，是diffusion models第一个火出圈的任务。这篇博客将会详细解读DALL·E 2《Hierarchical Text-Conditional Image Generation with CLIP Latents》的原理。
24、无分类器指导的Classifier-free Diffusion Models技术
分类器的引入大大提升了扩散模型的生成质量(FID和IS指标)，但是分类器指导可以看上是一种梯度对抗引导，这就会引入生成对抗网络中存在的一些缺点。作者提出了一种混合了条件扩散模型的分数估计和联合训练的无条件扩散模型，样本的无条件可能性，同时增加了条件可能性，在生成质量上得到进一步的提升。
25、最新Diffusion Models条件生成研究成果：梯度引导法
去年我发布了一篇条件DDPM的博客《条件DDPM：Diffusion model的第三个巅峰之作》，梳理了“分类器引导”、“inference image”、“latent”三种常见的条件添加方式。今年最火的条件diffusion models当属梯度引导法，这篇博客梳理一下最新的条件扩散模型的研究成果。
26、详细解读Latent Diffusion Models：原理和代码
CVPR 2022中的一项新工作latent diffusion models引起了广泛关注，提出了两段式diffusion models能有效节省计算资源，latent attention技术为通用image-to-image任务打下基础，让人耳目一新，具有极强的借鉴意义和启发性，值得深度阅读。
27、详细解读PITI：开启diffusion models image-to-image新时代
最近微软亚洲研究院新出了一项工作，围绕着GLIDE，采用两段式微调的方法，在通用image-to-image模型上取得了非常好的效果。相比于之前的《用Diffusion Models实现image-to-image转换》更进一步。这篇文章就和读者一起深度解读图像翻译领域的最新力作！
28、深入解读：从DDIM到Improved Denoising Diffusion Probabilistic Models
之前的博客解读了《从DDPM到DDIM：深入解读《Denoising Diffusion Implicit Models》，我们理解了从DDPM到DDIM的演化和改进过程。而《Improved Denoising Diffusion Probabilistic Models》是diffusion models发展过程中重要的里程碑，深刻影响了后来的研究过程，值得我们详细理解阅读。
入门基础系列文章汇总
有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。
1、Diffusion Models/Score-based Generative Models背后的深度学习原理(1)：配分函数
2、Diffusion Models/Score-based Generative Models背后的深度学习原理(2)：基于能量模型和受限玻尔兹曼机
3、Diffusion Models/Score-based Generative Models背后的深度学习原理(3)：蒙特卡洛采样法和重要采样法
代码解读系列
大部分DDPM相关的论文代码都是基于《Denoising Diffusion Probabilistic Models》和《Diffusion Models Beat GANs on Image Synthesis》贡献代码基础上小改动的。官方的DDPM是tensorflow TPU版本，暂时没有GPU的版本。本篇文章开始，详细解读一下pytorch和tensorflow版本的代码。
1、DDPM代码详细解读(1)：数据集准备、超参数设置、loss设计、关键参数计算
2、DDPM代码详细解读(2)：Unet结构、正向和逆向过程、IS和FID测试、EMA优化
3、DDPM代码详细解读(3)：图解模型各部分结构、用ConvNextBlock代替Resnet这个系列曾经写过三篇文章专门讲代码，分别从数据集、超参数、loss设计、参数计算、Unet结构、正向过程、逆向过程等部分详细介绍了如何搭建DDPM。Diffusion models领域发展神速，最近半年代表作品有OpenAI的GLIDE、DALL-E 2，Google Brain的ImageGen，海森堡大学的Latent Diffusion。这篇博客针对入门新手讲解一下如何利用已有的资源快速搭建自己的Diffusion models。
代码实战——从零开始搭建自己的Diffusion models/Score-based generative models
3万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
