CV/生成模型
文章平均质量分 83
CV/预训练模型
u013250861
这个作者很懒,什么都没留下…
展开
-
CV-生成模型-Diffusion Model:通过连续添加高斯噪声来破坏训练数据,然后通过学习反转的去噪过程来恢复数据。训练后将随机采样的噪声传入模型,通过学到的去噪过程来生成数据
常见的生成模型包含GAN、VAE、Flow Models等等, 所谓生成模型, 就是给一组随机噪声, 通过某种概率模型下的变换, 输出一些具有一定语义信息的数据(比如图像、文本等)。Diffusion Model也是一种生成模型, 2020年DDPM的发表使得图像生成领域的很多工作都开始转向Diffusion Model。原创 2023-10-29 23:29:21 · 704 阅读 · 0 评论 -
CV-生成模型:概述
CV-生成模型:概述原创 2022-12-22 16:16:25 · 245 阅读 · 0 评论 -
生成模型(一):VAE
在瓶颈层为输入\mathbf{x}学习的低维编码是\mathbf{z} = g_\phi(\mathbf{x}),重建的输入是\mathbf{x}’ = f_\theta(g_\phi(\mathbf{x}))。作为一个简单的回顾。\mathbf{z}_q(\mathbf{x}) = \text{Quantize}(E(\mathbf{x})) = \mathbf{e}_k \text{ 其中 } k = \arg\min_i |E(\mathbf{x}) - \mathbf{e}_i |_2 \。原创 2022-12-12 19:16:23 · 1054 阅读 · 0 评论 -
生成模型(二):基于流的生成模型(Flow-based Generative Model)【少用】
给定一个将n维输入向量\mathbf{x}映射到m维输出向量的函数,\mathbf{f}: \mathbb{R}^n \mapsto \mathbb{R}^m,这个函数的所有一阶偏导的矩阵被称为Jacobian矩阵,\mathbf{J},其中第i行和第j列是\mathbf{J}_{ij}= \frac{\partial f_i}{\partial x_j}。IAF打算在\tilde{\mathbf{x}}已知的情况下估计\tilde{pi}(\tilde{\mathbf{z}})的概率密度函数。原创 2022-12-22 16:08:20 · 2466 阅读 · 0 评论 -
生成模型(三):GAN
因为 \frac{\partial f_1}{\partial x} = y , \frac{\partial f_2}{\partial y} = -x, 同一次迭代中我们用 x-\eta \cdot y 更新 x , 用y+ \eta \cdot x 更新y , 每一次x和y有不同的符号,每次梯度更新都会引起巨大的振荡,并且不稳定性会随着时间的推移而恶化,如图所示。在上面的公式中, \Pi(p_r, p_g) 是所有p_r 和p_g可能的联合概率分布的集合。根据公式,很明显KL散度是不对称的。原创 2022-12-12 19:13:51 · 998 阅读 · 1 评论 -
生成模型(四):扩散模型(Diffusion Models)
这里的合并标准差是\sqrt{(1-\alpha_t)+ \alpha_t (1-\alpha_{t-1})} = \sqrt{1-\alpha_t\alpha_{t-1}}。在数据密度低的区域,分数估计的可靠性较低。\theta来预测\tilde{\boldsymbol{\mu}}_t = \frac{1}{\sqrt{\alpha_t}}\Big(\mathbf{x}_t - \frac{\beta_t}{\sqrt{1 - \bar{\alpha}_t}} \mathbf{z}_t \Big)。原创 2022-12-22 16:08:35 · 1517 阅读 · 0 评论 -
生成模型(四):扩散模型02【第一单元:扩散模型简介】
欢迎来到 Hugging Face 扩散模型课程第一单元!在本单元中,你将学习有关扩散模型如何工作的基础知识,以及如何使用 🤗 diffusers 库。扩散模型是「生成模型」算法家族的新成员通过学习给定的训练样本,生成模型可以学会如何生成数据,比如生成图片或者声音。一个好的生成模型能生成一组样式不同的输出。这些输出会与训练数据相似,但不是一模一样的副本。扩散模型如何实现这一点?为了便于说明,让我们先看看图像生成的案例。原创 2023-01-29 09:59:27 · 3354 阅读 · 1 评论