VAE系列
文章平均质量分 66
VAE系列
m0_55217431
这个作者很懒,什么都没留下…
展开
-
VAE系列
1.理解类任务:给出P(y|x),对于y的概率密度进行估计,最后给出新的x,能够预测y2.生成类任务:要估计数据本身的概率密度P(x),当学到数据的分布后,从数据中采样一个x,产生新的数据,难点在于样本数据的有限性,数据集难以覆盖所有情况。 解决方案:加入先验知识,给问题加入限定条件,如下: 1.GPT,对于相近的句子,对应位置的词向量也非常接近,如apple,orange,可以应对不同的组合方式,产生没有过的样本点 2.GAN:假定数据样本点...原创 2021-10-15 16:37:41 · 113 阅读 · 0 评论 -
DALL-E
CogView整体的算法框架与DALL-E相比更为简洁,文本部分的token转换已经十分成熟,下文不再做进一步介绍;图像则是通过一个离散化的AE(Auto-Encoder)转换为token。文本token和图像token拼接到一起之后输入到GPT模型中生成图像。最后在处理文本图像生成类任务时,模型会通过计算一个Caption Score对生成图像进行排序,从而选择与文本最为匹配的图像作为结果。摘要:按照传统,文本到图像的生成一直专注于寻找更好的建模假设,以便能够在固定数据集上进行训练。这些假设可能涉原创 2021-10-15 17:11:06 · 1107 阅读 · 0 评论