扩散模型 - Diffusion Model【李宏毅2023】学习笔记 数学原理篇

最新推荐文章于 2024-07-22 21:21:48 发布
最新推荐文章于 2024-07-22 21:21:48 发布
阅读量637 收藏 6
点赞数 1
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wangxiaojie6688/article/details/133325636
版权

【生成式AI】Diffusion Model 原理剖析 (1/4)_哔哩哔哩_bilibili

有关图像生成及扩散模型的精髓领悟参见博文：

扩散模型 - Diffusion Model【李宏毅2023】学习笔记 Part 1_wangxiaojie6688的博客-CSDN博客

P3

这里的alpha为参数，采样得到的t越大说明噪音越大，原图所占比例越小，这里的t为当前去噪下标。

最后加的这个噪音z怎么感觉有负采样的味道？？？

P4

 

训练得到的网络产生的分布越接近真实图片的分布越好，这也是奋斗的目标。
可以使生成的图最接近于真实图的seta， 使目标函数最大的seta即为要学习的seta。
这里提到的减去的项--类似负采样？
在VAE中是输入一个z,然后输出G(z)  概率密度函数正比于

 

P5

q(xt|x0)可以直接被算出来 后文讲介绍

采样得到的噪声分布相对独立
由此，可以仅由一个分布代替

 

P6

【中英文字幕】吴恩达-扩散模型diffusion的工作原理

【中英文字幕】吴恩达-扩散模型diffusion的工作原理_哔哩哔哩_bilibili

讲的。。。。。

QianMo-WXJ
关注
  • 1
    点赞
  • 踩
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
扩散模型-Diffusion Model 代码
02-29
扩散模型-Diffusion Model 代码
Integrated-Design-Diffusion-Model-大模型资源
07-21
IDDM(…)DDPM, DDIM, webgpuPytorch
扩散模型 公式理解
The Shawshank Redemption
03-04 414
推导过程：本过程的推导需要使用分布合并和重参数化。分布合并-对于独立的两个正态分布。图摘选自李宏毅老师课程PPT。重参数化：若需要采样一个。，进行逆标准化过程，即。，则可以通过采样一个。
扩散模型 - Diffusion Model【李宏毅2023】学习笔记 Part 1
QianMo的博客
09-26 531
PS： 又出新课程了 计算机发展太快了 希望有机会再完整学一遍2233正式开始上课---------------------------------------------------------
Diffusion模型（李宏毅）
m0_74982304的博客
05-23 1083
类似于seq2seq。
李宏毅生成式AI课程——Diffusion Model（1）
weixin_43546619的博客
04-12 689
李宏毅生成式AI课程笔记
李宏毅生成式AI课程——Diffusion Model（2）
weixin_43546619的博客
04-17 972
VAE将图片编码成embedding，而Diffusion将图片通过添加噪声的方式，变成一个服从高斯分布的噪声图。
李宏毅-2023春机器学习 ML2023 SPRING-学习笔记：4/7 Diffusion Model 原理剖析(optional)
Transfattyacids的博客
05-07 988
4：从平均值(mean)=0，方差(variance)=1的normal distribution中sample出ε，大小与image一致，是一张全是噪音的图片。我们会发现，噪声只由β序列和xt-1所决定（固定的而非可学习的过程），且生成xt-1时只依赖于xt，可以得出在添加噪声的过程中，是一个马尔科夫链过程，进而得出。αT），得到带有噪音的图片（α越大得到的图片带有的噪音占比越大）；注意，在得到的式子中只有ε是需要通过神经网络来预测的（其他的参数都是已经定好的或是可以推算出来的）)：预测生成的噪音图片；
扩散模型diffusion model用于图像恢复完整可运行代码，附详细实验操作流程
02-10
1. 基于扩散模型实现的图像恢复代码，只需要修改数据集路径就可以在去雨、去雾、去雪等多个图像恢复任务上直接使用； 2. 附有详细的实验操作流程，以及参数路径等修改方法； 3. 代码训练和测试完整可运行； 4. 对于...
扩散模型(diffusion model) （DDPM）处理表格数据的项目案例
05-22
扩散模型（Diffusion Model，简称DDPM）是一种新兴的生成模型，主要在图像生成领域取得了显著成果。然而，它的应用并不仅限于此，处理表格数据也是其潜在的应用方向。本项目案例将展示如何利用扩散模型对表格数据...
PM-anirotropy-diffusion.rar_P-M diffusion_diffusion_pm扩散模型_扩散_扩散
07-14
matlab版本的各向异性扩散滤波的PM模型
Generative Model - 李宏毅笔记
weixin_42010722的博客
11-11 1370
输入x。输出不同且具有创造的结果 画画 比如 画一个红眼睛的人脸 GAN的变形 GAN ACGAN BGAN CGAN DCGAN EBGAN fGAN GoGAN 神奇宝贝比比鸟 学习，根据周围环境，自学习进化， 通过每次生成的。和判别器判断，进化 生成器与判别器 对抗 generato loss越小越好 discriminator越大越好 反复执行 训练 生成器后 固定 判别器 ，把生成器生成的给判别器判断（固定生成器，训练判别器）， styleGAN 动画头像 progressiveGAN 人脸 通
生成模型之扩散模型DDPM
Barbara‘s Blog
12-20 3021
Diffusion model
机器学习笔记：李宏毅diffusion model
qq_40206371的博客
08-13 911
这样就形成了一对一对的 输入和ground-truth ，供noise predictor 训练。整体的框架没有多少变化，就是 denoise model 输入多了一个文字的vector。那么如何训练noise predictor，换句话说，怎么找到ground-truth呢。如果我们是提供给diffusion model 文字，让他生成图片。
I2SB: Image-to-Image Schrödinger Bridge（扩散模型学习）
weixin_43309908的博客
03-25 547
三部分（1）理解输入Encoder（GPT、Bert）（2）加入噪声生成中间产物(Network)（3）生成图片Decoder（不需要文字）（极大似然估计就是在只有概率的情况下，忽略低概率事件直接将高概率事件认为是真实事件的思想。真实图片和生成图片扔进Pretrain-CNN看最后一层特征的相似度。Ground Truth，训练数据。简单的分布生成复杂的分布。3.适用于图像恢复任务。
扩散模型原理和pytorch代码实现初学资料汇总
qq_44941689的博客
08-24 4667
扩散模型原理和pytorch代码实现初学资料汇总
深度学习（四十七）——Flow-based Model, Diffusion Model, Autoregressive Model
antkillerfarm的专栏
02-06 2183
Flow-based Model, Diffusion Model, Autoregressive Model
2024年7月16日~2024年7月22日周报
最新发布
m0_53096519的博客
07-22 815
本周完成论文初稿、5000小实验以及数据训练方式初了解。
昇思25天学习打卡营第14天|LLM-文本解码原理--以MindNLP为例
wwt72的博客
07-17 937
限制输出序列的最大长度为50个token。top-p=0.95，top-p采样表示在每一步生成token时，只从概率分布中累计概率达到95%的token中进行采样，有助于保持生成文本的流畅性和质量，同时允许一些低概率的token被选中，从而增加多样性。表示禁用了top-k采样，因为在top-k采样中，通常是从概率最高的k个token中随机选择一个token作为下一个输出，而这里设置为0表示不限制token的选择，实际上这将等同于使用 softmax 概率分布直接进行采样。这有助于提高生成文本的多样性。
diffusion models扩散模型与深度学习(数学原理和代码解读)
04-28
扩散模型和深度学习都是通过数学模型来描述和解决各种问题的方法。扩散模型用于描述某种物质在给定环境中的扩散或传播情况，它的数学原理主要是基于偏微分方程。 而深度学习则是一种基于神经网络的机器学习方法，其数学原理主要是通过多层次的神经网络来实现对数据进行训练和分类等操作。与扩散模型相同，深度学习也要处理大量的数据，并且需要对数据进行预处理和优化。 与扩散模型不同的是，深度学习在实现过程中需要大量的计算和优化，例如反向传播算法、梯度下降、正则化等。它还需要设计和选择合适的网络架构和参数设置。 在代码实现方面，扩散模型通常需要使用偏微分方程求解器来实现，而深度学习则需要使用各种框架和库来实现，例如TensorFlow、PyTorch等。同时，深度学习也需要更加复杂和繁琐的代码实现，例如模型构建、数据处理、模型评估等。 总的来说，扩散模型和深度学习都是非常实用和重要的数学方法，在各自的领域中都有广泛的应用价值。虽然两者使用的数学原理和代码实现都有所不同，但它们都为解决复杂的科学和工程问题提供了有力的工具和方法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

QianMo-WXJ

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值