- 博客(3)
- 收藏
- 关注
RSS订阅原创 概览：VAE, GAN, Flow Model 和 Diffusion 的关系（二）：Diffusion Model
Diffusion Model（DDPM）的基本思路对于隐变量模型给出的基本思路：p(x)=∫p(x∣z)p(z)dzp(x)=\int p(x|z) p(z) \mathrm{d}zp(x)=∫p(x∣z)p(z)dzVAE给出的优化是提高 p(z)p(z)p(z)的采样效率：encoder 用参数化的后验分布模型 qθ(z∣x)q_\theta(z|x)qθ(z∣x)，直接预测均值μ\muμ和方差Σ\SigmaΣ，使得 qθ(z∣x)=N(μ,Σ)q_\theta(z|x) = N(\mu,
2024-06-28 16:59:03
438
原创 概览：VAE, GAN, Flow Model 和 Diffusion 的关系（一）：VAE 与 GAN
以图片生成和处理任务为例，假设我们的研究对象是一个16 * 16 的RGB图片，抛开对图片内容的限制，假如我们完全随机地生成这样一个尺寸的图片，每个像素的可能取值有 256 * 256 * 256 个，整个图片的可能取值情况有$ N = ( 256 \cdot 256 \cdot 256 ) ^ {(16 \cdot 16 )} $个。我们把可能随机生成的这样的一个图片设为（或者说，记为，表示为）一个随机变量 X，X的所有可能取值个数为 N，则我们可以将其样本空间表示为SXX1X2。
2024-06-28 16:57:26
1418
原创 概览：VAE, GAN, Flow Model 和 Diffusion 的关系
这里 p(\mathbf{x}_T)= \mathcal{N}(\mathbf{0}, \mathbf{I})，而 p_\theta(\mathbf{x}_{t-1} \vert \mathbf{x}_t) 为参数化的高斯分布，它们的均值和方差由训练的网络 \boldsymbol{\mu}_\theta(\mathbf{x}_t, t) 和 \boldsymbol{\Sigma}_\theta(\mathbf{x}_t, t) 给出。我们要用神经网络计算出的这些分布来估计 q(x_{t-1}|x_t)。
2024-06-20 02:18:36
1892
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人