AIGC实战——扩散模型(Diffusion Model)

0. 前言

与生成对抗网络 (Generative Adversarial Network, GAN)一样，扩散模型是过去十年中最有影响力的生成模型技术之一。在许多基准测试中，当前的扩散模型已经超过了以往最先进的 GAN 模型，并迅速成为生成模型的首选。扩散模型的核心理念与其他生成模型，例如去噪自编码器、能量模型等有诸多相似之处。事实上，扩散来源于热力学扩散。同时，基于评分的生成模型领域(即能量模型)也取得了重要的进展，其直接估计对数分布的梯度(也称为评分函数)，以训练模型。噪声条件得分网络 (Noise Conditional Score Network, NCSN) 使用多尺度噪声扰动应用于原始数据，以确保模型在低数据密度区域具有良好的性能表现。
扩散模型 (Diffusion Model) 在先前模型的基础上，揭示了扩散模型与基于评分的生成模型之间的联系，并训练了一个能够在多个数据集上与 GAN 相媲美的扩散模型，称为去噪扩散概率模型 (Denoising Diffusion Probabilistic ModelD, DDPM)。本节将介绍去噪扩散概率模型的工作原理。然后，学习如何使用 Keras 构建去噪扩散概率模型。</