第二十二周周报

学习内容：

一、改ViTGAN代码

二、DDIM论文

学习时间：

1.28-2.3

学习产出：

一、《DENOISING DIFFUSION IMPLICIT MODELS》

1、扩散过程

通过DDPM的优化目标可以发现DDPM仅仅依赖边缘分布q(Xt | X0)，由此得到，DDPM这个隐变量模型可以有很多推理分布来选择，只要推理分布满足边缘分布条件（扩散过程的特性）即可，因此DDIM中得到推理分布为：

这里要满足以及对于所有的t≥2有：

则非马尔可夫的前向过程为：

2、生成过程

在生成阶段使用如下公式生成样本：

一由预测的X0来产生的，二是Xt，三是随机噪音，其中σt被定义为：

这里分为两种情况，当η为1时，生成过程与DDPM一样，而当η为0时，生成过程就没有随机噪音了，是一个确定性的过程，即DDIM。

3、加速生成过程

由于DDIM没有明确的前向过程，这意味着可以定义一个更短步数的前向过程。具体地说，从原始的序列[1,…,T]采样一个长度为S的子序列[T1,…,Ts]，将XT1,…,XTs的前向过程定义为一个马尔科夫链，并满足
那么生成过程也可以用这个子序列的反向马尔科夫链替代，由于S可以比原来的步数L小，那么久可以加速生成过程，生成过程变为：