- 博客(11)
- 收藏
- 关注
原创 【扩散模型】引导扩散方法Classifier-free Guidance
现在我们来介绍引导扩散的另一个方法Classifier-free Guidance,该方法也广泛运用于后续的各种扩散模型。论文:CLASSIFIER-FREE DIFFUSION GUIDANCEclassifier guidance到classifier-free guidance之间扩散模型也有了更多的研究,描述的符号也发生了一些改变,采样时间也发生了变化。文章使用了不同之前提到的文章的公式符号,并且将采样时间使用λlogαλ2σλ2进行代替。
2024-08-15 11:27:30
400
原创 【扩散模型】引导扩散方法ClassifierGuidance
DDPM和DDIM只能通过特定的采样方式恢复与训练集相似的图片,而在采样过程中生成的方向我们难以控制。因此,对实现扩散模型在采样过程中的引导,使其生成我们想要的种类图片有着重要意义。Classifier Guidance就是其中一个方法。
2024-08-15 00:21:31
451
原创 【扩散模型】加速采样算法《Denoising Diffusion lmplicit Models》论文原理
对于一个已经训练好的DDPM,只需要对采样公式做简单的修改,模型就能在去噪时跳步骤,在一步去噪迭代中直接预测若干次去噪后的结果。DDIM论文推广了DDPM的数学模型,打破了马尔科夫链的过程,从更高的视角定义了DDPM的反向过程(去噪过程)。在这个新数学模型下,我们可以自定义模型的噪声强度,让同一个训练好的DDPM有不同的采样效果。
2024-08-14 22:26:48
285
原创 【扩散模型】DDPM论文理解
DDPM(Denoising Diffusion Probabilistic Models)更详细解读可以参考(这几个视频看完基本对DDPM的原理就能够把握了)李宏毅大白话AIb站公式推导1b站公式推导2基本过程扩散模型受扩散现象的启发,通过逐步向图片中加入高斯噪声来模拟这种现象,并通过逆向过程从(随机)噪声中生成图片。添加噪声的两个条件:(1)整个过程的状态都服从马尔科夫性质(2)每一步加入的噪声变化都比较少,则变化过程可以近似为高斯分布。前向过程加入噪声的混合公式:将
2024-08-13 17:28:25
797
原创 【知识补充】KL散度Kullback-Leibler Divergence(相对熵)
在神经网络训练中,由于已知为固定值,故经常最小化交叉熵作为损失函数,即。事件越确定,得到的值越小。本质是对不确定性的度量。
2024-08-13 16:27:00
101
原创 【diffusion发展历程】扩散模型diffusion入门-感知整体框架
扩散模型生成属于AIGC范畴,AIGC是Artificial Intelligence Generated Content——生成式人工智能的缩写,是人工智能1.0到2.0时代的一个重要标志。扩散模型从2022年开始大火以来,在很多领域都有十分不错的表现,并且发展速度迅猛。特别是在图像生成、3D图像生成、音频生成等都有重大发展。本专栏文章主要讲解扩散模型diffusion在图像生成领域的重要发展和表现。
2024-08-13 16:14:24
618
原创 【终端常见命令使用】深度学习入门-服务器运行(持续更新)
使用anaconda对架构和配置进行设置,以及需要实验服务器运行代码时需要用到终端命令。本文主要记录一些常见的命令和问题。
2024-08-13 14:49:05
369
原创 【debug日记】TypeError: __init__() got an unexpected keyword argument ‘socket_options‘
找到报错的文件,是httpx库的文件,查看项目环境包要求,并没有要求httpx版本。所以直接将httpx进行更新。原因可能是使用的库版本不支持所传递的参数。运行扩散模型代码过程中,出现。再运行就不会报错了。
2024-08-11 15:00:21
92
原创 【debug日记】torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 96.00 MiB (GPU 0; 23.70
(2) 可以在代码运行前shell或bash脚本中加。实际上是只设置gpu:1可见, 而屏蔽其他gpu卡。(1) 可以在py代码开头(一定要在开头)加。(3)在程序中使用set_device()指定到空闲的显卡进行训练。具体解决方法可以查看。选择GUP空闲的显卡。
2024-08-11 10:01:30
152
原创 【debug日记】python安装opencv出现如下错误:Could not find a version that satisfies the requirement cv2 (from vers
打开终端,直接输入如下命令安装时发现会提示出错。
2024-07-30 14:52:30
410
原创 【debug日记】pip install 报错ValueError: check_hostname requires server_hostname
关闭加速器、关掉VPN。
2024-07-28 00:08:10
68
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人