参考链接:https://www.bilibili.com/video/BV1hd4y1z7zU/?spm_id_from=333.880.my_history.page.click&vd_source=6f12693b5ba1fd785dc6156a2aba1c40
通过随机噪声生成目标语料
(没找到语料例子,暂时用图像例子代替)
Diffusion Model 2021年很火爆,以前总说GAN,现在改朝换代了?
- 孰是孰非还得再等等,目前来看主流的生成模型E经不昨用GAN了,最新的都是Diffusion Model。
- GAN要训练俩网络,感觉难度较大,容易不收敛,而且多样性比较差,只关注能骗过判别器就得了。
- Diffusion Model用一种更简单的方法来诠释了生成模型该如何学习以及生成,其实感觉更简单。
模型训练
这里咱们先看前向过程,其实就是不断往输入数据中加噪声,加的噪声越来越大,最后就快变成了个纯噪声
每一个时刻都要添加高斯噪声,后一时刻都是由前一 刻是增加噪声得到
其实这个过程可以看过咱们不断构建标签(噪声)的过程,后续会用到
如何得到Xn时刻的分布?
模型预测