Paper——Diffusion Model前向过程和反向过程详解

最新推荐文章于 2025-03-04 20:36:31 发布
最新推荐文章于 2025-03-04 20:36:31 发布
阅读量3.7k 收藏 5
点赞数 2
分类专栏： Paper 文章标签： 人工智能 深度学习 计算机视觉
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45779334/article/details/128970371
版权
文章详细介绍了Diffusion过程，包括前向过程如何逐步添加高斯噪声到原始图像，形成纯噪声图像，以及反向过程如何利用神经网络进行去噪，恢复原始图像。损失函数用于优化这一过程。此外，提到了U-Net和Attention机制在反向过程中的应用。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

文章目录

Diffusion过程解析

前向和后向相互独立，前向过程使用马尔科夫链实现，反向过程采用神经网络进行预测。

前向过程

在这里插入图片描述

  • 输入一个原始图片；
  • 每一步添加噪声，噪声服从高斯分布（均值为0，方差为1，记作 N ( 0 , 1 ) N(0,1) N(0,1)，服从正态分布）；
  • 最终得到一个只含有噪声的图像；
公式详解
每一步增加噪声的求解

X t = a t X t − 1 + 1 − a t ε t X_t = \sqrt{a_t} X_{t-1} + \sqrt{1-a_t} \varepsilon_t Xt​=at​ ​Xt−1​+1−at​ ​εt​

  • X t X_t Xt​是当前时刻的图像； X t − 1 X_{t-1} Xt−1​是前一时刻的图像；
  • a t a_t at​是噪声权重，随着 t t t 的增加不断变化（论文中是从0.0001到0.02）；
  • ε t \varepsilon_t εt​是指每个时刻添加的独立的高斯噪声。
从起始状态到最终状态的公式

在这里插入图片描述

反向过程

反向过程是通过参数化的U-Net+Attention神经网络实现从噪声图像到原始图像的denoise。

在这里插入图片描述

损失函数

最小化该公式：

∥ z ˉ t − z θ ( α ˉ t x 0 + 1 − α ˉ t z ˉ t , t ) ∥ \left\|\bar{z}_t-z_\theta\left(\sqrt{\bar{\alpha}_t} x_0+\sqrt{1-\bar{\alpha}_t} \bar{z}_t, t\right)\right\| ​zˉt​−zθ​(αˉt​ ​x0​+1−αˉt​ ​zˉt​,t) ​

  • z ˉ t \bar{z}_t zˉt​为 t t t 时刻的噪声真值；
  • z θ z_\theta zθ​为噪声预测值；
  • α ˉ t \bar{\alpha}_t αˉt​为噪声参数，和 t t t 有关；

总结公式

在这里插入图片描述

参考资料：

代码资料

链接：https://pan.baidu.com/s/1P1WTZtr5UBLu9FVDXCk3nA?pwd=tuh4
提取码：tuh4

【ChatGPT模型精调训练】AI 大模型精调 Fine-Tuning （微调）训练图文代码实战详解
AI天才研究院
03-09 1915
选择预训练模型：选择一个在类似任务上已经训练好的模型作为起点。数据准备：准备并预处理你的数据集，使其适合模型的输入格式。微调：在你的特定数据集上继续训练模型，调整模型的权重。评估：评估微调后模型的性能。应用：将微调后的模型部署到实际应用中。Fine-Tuning（精调）是指在预训练模型的基础上，对模型进行微调，使其适应特定任务。预训练模型通常在大量无标签数据上进行训练，以学习通用的语言表示。通过 Fine-Tuning，我们可以在较小的标签数据集上训练模型，以便模型能够更好地解决特定任务。
【DDIM加速采样方法】公式推导加代码分析。Denoising Diffusion Implicit Models
zik的博客
03-22 1712
ICLR 2021不啰嗦，就简单介绍采样过程的均值与方差的推导。训练过程与DDPM差不多。证明部分放在最后。请注意，DDIM 论文中的αt\alpha_tαt​是指来自DDPM的αˉtαˉt​。其中ϵτiϵτi​​是随机噪声，τ\tauτ是12T12T的子序列，长度为SSS（DDPM是前置知识需要先看）
Diffusion Model 原理剖析
最新发布
m0_52118763的博客
03-04 831
李宏毅课程笔记
Diffusion Model（2）：前向扩散过程和逆向降噪过程
weixin_42363544的博客
10-24 1678
​Diffusion Models（扩散模型）包含以下三类:​ 本文以2020年Ho等人的DDPM为例，其包含了前向扩散过程和反向的扩散过程。​ 其中，前向扩散过程是为了将复杂的分布转化为一个简单的分布。而反向扩散过程则是从简单分布逆转得到复杂分布。 ​ 扩散（Diffusion）在热力学中指细小颗粒从高密度区域扩散至低密度区域，在统计领域，扩散则指将复杂的分布转换为一个简单的分布的过程。​
《Diffusion Models Paper》1.0 经典必读论文10篇
qq_40992158的博客
07-26 5912
最近开启了论文100计划，准备阅读整理100篇CV领域经典论文，在扩散模型方面精选了十篇经典论文，这里相当于一个目录，后续会对这十篇论文一一详细精度。
Diffusion原理详解（二：逆向过程原理）
weixin_42841721的博客
03-17 3210
当然如果对公式推理感兴趣的同学，可以阅读一下原文，公式推导的过程其实也是一个很好的思维锻炼的过程。以𝜽为模型参数，反向生成的原始图像的分布，与真实原始图像的分布的，距离， 不大于 (≤)， 各个阶段(𝑡 = 0,𝑡 = 1, 𝑇 − 1 ,𝑡 = 𝑇)以𝜽为模型参数, 反向生成的图像分布与该阶段真实图像分布的 距离 【KL-Divergence】和。公式(11)中红色的部分，这个式子里面出现的都是前向过程的参数，而根据文章最开始列出的前向过程推导公式，这个式子的分布我们是可以表达出来的。
十分钟读懂Diffusion：图解Diffusion扩散模型
Paper weekly
07-10 959
©作者 |绝密伏击单位 |奇虎360高级算法专家在之前的文章中，我们曾经介绍过 Diffusion 的具体原理，但是讲的还是比较偏理论，为了让大家快速了解 Diffusion 原理，这篇文章我们通过图解的方式。AIGC爆火的背后——扩散模型DDPM浅析：https://zhuanlan.zhihu.com/p/590840909Diffusion文字生成图片——整体结构1.1 整个生成过程我...
扩散模型Diffusion Model
滢滢码仔
03-03 843
扩散模型的灵感来自于非平衡热力学。他们定义了一个扩散步骤的马尔可夫链，慢慢地向数据中添加随机噪声，然后学习反向扩散过程，从噪声中构建所需的数据样本。与VAE或流动模型不同，扩散模型的学习过程是固定的，潜在变量具有高维性(与原始数据相同)。
【Diffusion】Denoising Diffusion Probabilistic Models (DDPM)小白入门指南
图挖掘领域，新晋砖家 ☞ 未来可期，欢迎和静静一起学习交流吖
01-08 694
DiffusionModel的基本概念影像生成系统的应用DALL-EImagenDiffusionModel的运作原理生成图片的步骤从高斯分布中采样噪声向量使用Denoise模块逐步去噪从噪声到清晰图片的过程类比米开朗基罗的雕像创作Denoise模型的详细说明反复使用同一个Denoise模型额外输入噪声严重程度数值Denoise模型的内部结构NoisePredictor的作用预测并减去噪声NoisePredictor的训练方法人为创造训练数据。
AAAI—24—Main—paper（关于Multi—Modal的全部文章摘要）
Conger_2002的博客
10-12 774
我们生活在一个由多种模态（Multimodal）信息构成的世界，包括视觉信息、听觉信息、文本信息、嗅觉信息等等，当研究的问题或者数据集包含多种这样的模态信息时我们称之为多模态学习多模态机器学习旨在处理学习（视觉，听觉，语言等）不同模态融合交织的信息。
从基础到高级：AI大模型开发的技术栈
AI天才研究院
01-17 2127
人工智能（AI）技术在近年来取得了突飞猛进的发展，其中大模型（Large Language Models，LLMs）的出现更是掀起了新一轮的技术革命。从OpenAI的GPT系列到Google的BERT，再到更近期的Claude和PaLM，这些大模型展现出了惊人的语言理解和生成能力，正在重塑我们与技术交互的方式。然而，开发如此复杂的AI系统并非易事，它需要一整套完善的技术栈支持。本文旨在全面剖析AI大模型开发的技术栈，从基础理论到实际应用，为读者提供一个清晰而深入的认识。
Diffusion Model原理详解
weixin_42620109的博客
03-18 4886
Diffusion Model（扩散模型 ）对标的是生成对抗网络（GAN），本文将用通俗的语言和公式为大家介绍Diffusion Model，并且结合公式为大家梳理Diffusion Model的代码。
stable diffusion(LDM)--图片生成模型
zephyr_wang的博客
04-20 6010
我们模型latent diffusion models (LDMs)是两阶段的。第一部分就是下面左半部分（红色），对图片进行压缩，将图片压缩为隐变量表示（latent），这样可以减少计算复杂度；第二部分还是扩散模型（diffusion与denoising），中间绿色部分。此外引入了cross-attention机制，下图右半部分，方便文本或者图片草稿图等对扩散模型进行施加影响，从而生成我们想要的图片，比如根据文本生成我们想要的图片。
Guided Diffusion/Diffusion Models Beat GANs on Image Synthesis (Paper reading)
qq_43800752的博客
01-05 2850
对于条件图像合成，我们通过分类器指导进一步提高样本质量：一种简单、计算效率高的方法，使用分类器的梯度来权衡样本质量的多样性。我们在 ImageNet 128×128 上实现了 2.97 的 FID，在 ImageNet 256×256 上实现了 4.59，在 ImageNet 512×512 上实现了 7.72。即使每个样本只有 25 次前向传播，我们也能匹配 BigGAN-deep，同时保持更好的分布覆盖。
什么是前向过程
weixin_42589048的博客
07-12 253
在深度学习中，前向过程是对输入数据进行特征提取和转换的过程，将输入数据通过网络的各个层级，逐步进行计算和变换，最终得到模型的输出。总结起来，前向过程是神经网络中将输入数据通过网络的层级结构进行计算和传播的过程，通过一系列的计算和变换，从输入数据中提取特征并生成输出结果。特征提取：通过网络的一系列层（如卷积层、池化层、全连接层等）对输入数据进行一系列的计算和变换，提取输入数据的特征。输出层：在前向过程的最后，通过网络的最后一层（如全连接层或卷积层）进行最终的计算和变换，得到模型的输出结果。
Diffusion model(一): 公式推导详解
芒果干的博客
01-01 6827
首先附上几个大佬的讲解这篇博客借鉴了上述博客和视频，同时加上个人的理解整合了一下，整个推导过程，希望能使每个人都看懂结合之前讲过的VAE和GAN模型，Diffusion Model和他们的区别就是latent code和原图是同尺寸大小的。如下图所示，Diffusion Model分为前向过程和反向过程，前向过程将输入图片x0​变为纯高斯噪声xT​（就是一个不断加噪的过程），反向过程就是将噪声xT​还原为图片x0​的过程（就是一个不断去噪的过程）
【小白】快速读懂Diffusion扩散模型
weixin_47228643的博客
03-13 2650
​。
一文弄懂 Diffusion Model（DDPM）+ 代码实现
热门推荐
Drug discovery
11-27 1万+
一文弄懂 Diffusion Model
Diffusion Model算法
weixin_42010722的博客
11-15 4140
已知最初的原始图像的数据，前向过程，就是需要求得每一个。
diffusion model训练过程
05-23
扩散模型（Diffusion Model）是一种用于描述信息或想法如何在社交网络中传播的数学模型。其基本思想是将网络中的每个节点视为一个人，每个人都有可能接受或拒绝信息，从而影响其他人的决策。扩散模型通常分为两种类型：基于阈值的模型和基于概率的模型。 基于阈值的模型认为，每个人都有一个接受信息的阈值，当他们接收到的信息量超过这个阈值时，他们就会接受信息并将其传播给邻居。而基于概率的模型则假设每个人对信息的接受程度是随机的，即他们有一定概率接受信息并将其传播给邻居。 在训练扩散模型时，通常需要先确定网络中每个节点的特征向量，这些向量可以包括节点的度数、中心性、社交属性等。然后需要确定模型的参数，例如阈值、传播概率等。最后，通过模拟信息在网络中的传播过程，可以评估模型的性能，并进行调整和优化。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值