2023年Diffusion Models还有哪些方向值得研究(好发论文)？

最新推荐文章于 2024-09-11 17:54:24 发布
最新推荐文章于 2024-09-11 17:54:24 发布
阅读量6k 收藏 32
点赞数 18
分类专栏： Diffusion Models与深度学习 文章标签： 深度学习 扩散模型 diffusion 稳定扩散模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41895747/article/details/130522518
版权
本文探讨了2023年扩散模型在结合传统方向、部署、加速训练、人脸生成、推理加速、可控生成及借鉴GANs研究中的潜在研究方向。针对模型的缺点，如参数量大、推理时间长，提出预训练优化、模型蒸馏等解决方案，并指出人脸生成和加速推理领域的挑战。建议研究人员结合自身积累，寻找创新点。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

Diffusion Models专栏文章汇总：入门与实战

前言：笔者follow扩散模型的科研进展已经将近2年了，见证了diffusion从无人问津到炙手可热的过程。当下扩散模型还有哪些缺点？还有哪些需要改进的方向？还有哪些方向值得研究？还有哪些方向好发论文？针对这些问题博主给出一些自己的见解，欢迎大家在评论区多多讨论！

目录

方向一：结合传统方向

方向二：部署方向

方向三：加速训练 

方向四：人脸生成问题

方向五：加速推理

方向六：可控生成

方向七：从GANs研究发展中找灵感

后记

方向一：结合传统方向

个人认为这是最好发论文的方向，原因有两个：1）可以结合自己以前的科研积累，这些积累将会形成一定属于自己的科研壁垒。2）避开了热门方向、交叉研究等因素会让论文更好中稿。

了解本专栏 订阅专栏 解锁全文 超级会员免费看
2024年Diffusion Models还有哪些方向值得研究(好发论文)？
沉迷单车的追风少年
01-07 2516
笔者follow扩散模型的科研进展已经将近3年了，见证了diffusion从无人问津到炙手可热的过程。当下扩散模型还有哪些缺点？还有哪些需要改进的方向？还有哪些方向值得研究？还有哪些方向好发论文？不知不觉时间已经来到了2024年，一年前写的博客《2023年Diffusion Models还有哪些方向值得研究(好发论文)？》有些内容已经过时了，这篇博客大胆展望一下2024年扩散模型的发展方向。
Diffusion Models专栏文章汇总：入门与实战
热门推荐
沉迷单车的追风少年
02-21 3万+
《DiffusionModels与深度学习》专栏文章导航
生成式扩散模型是风口，中国论文数量为美国的 4.5 倍
idol24的博客
11-01 492
作者 | 黄楠、施方圆编辑 | 陈彩娴转自：AI科技评论近日，剑桥大学的2022年 AI 全景报告（《State of AI Report 》）出炉！报告汇总和聚焦了过去一年里 AI 行业中炙手可热的事件，援引数据来自知名科技公司和研究小组，由投资者 Nathan Benaich 和 Ian Hogarth 编写，从研究、产业、政策、安全、预测五个维度出发，对最新的 AI 发展现状和未来预期进行深...
扩散模型背后数学太难了，啃不动？谷歌用统一视角讲明白了
zandaoguang的博客
08-28 672
视学算法报道机器之心编辑部扩散模型背后的数学可是难倒了一批人。最近一段时间，AI 作画可谓是火的一塌糊涂。在你惊叹 AI 绘画能力的同时，可能还不知道的是，扩散模型在其中起了大作用。就拿热门模型 OpenAI 的 DALL·E 2 来说，只需输入简单的文本（prompt），它就可以生成多张 1024*1024 的高清图像。在 DALL·E 2 公布没多久，谷歌随后发布了 Imagen，这是一个文本...
ICLR2023 扩散模型论文合集
AI_Conf的博客
05-08 670
AI综述（大模型驱动）：offline reinforcement学习(RL),旨在学习一个有效的政策,使用以前收集的静态数据集,是RL的一个重要范畴。在本文中,我们提出了一种新的基于条件传播模型的动态调整算法,该算法利用了条件传播模板作为高度表达性的政策类。我们表明,基于模型的政策的表达性和决策改善结合在一起,产生了卓越的性能。我们引入了基于概率浓缩的损失,这使得使用2D传播模型作为参数化图生成器的先决条件,可以使用该损失用于优化度量图生成的二值图 generator的二值。
【扩散模型】拿下CVPR两篇最佳论文，它究竟有何特别之处？我直呼牛批克拉斯！
08-09 1427
【扩散模型（Diffusion Models）】是一种基于概率过程的生成模型，它通过逐步引入噪声并在反向过程中去除噪声来生成数据。这种方法在图像、音频和3D内容生成等多个领域展现出了卓越的性能。扩散模型的核心优势在于其能够生成高质量且高逼真度的合成数据，同时保持对输入条件（如文本描述）的敏感性，使其在条件生成任务中尤为有效。此研究方向推动了人工智能在创意和设计领域的应用，提高了自动内容创作的灵活性和可控性，为虚拟现实、游戏开发和电影制作等产业带来了革命性的工具。
机器人操作——diffusion policy（2023）
千羽的计算机视觉与机器人
03-18 5554
机器人操作领域发论文的热点又来了。扩散模型大概率很难和强化学习结合，因为强化学习需要网络足够小从而在每次更新的很短时间内收敛，不过基于扩散模型的动力学模型可以试试。
2023扩散模型最新技术进展汇总
学姐带你玩AI的博客
07-27 3325
随着Stable Diffusion和Midjourney等图像生成模型的爆火，今年在模型领域，稳占主导地位。因此，与之相关的新技术也层出不穷，短短1个月，扩散模型相关的论文就有上百篇了，可见其发展的火热趋势。这次我整理了一部分来和大家分享，有50+篇，希望能帮助同学们获取新的思路~
Diffusion Models从入门到放弃：必读的10篇经典论文
沉迷单车的追风少年
01-08 6006
diffusion models是现在人工智能领域最火的方向之一，并引爆了AIGC方向，一大批创业公司随之诞生。笔者2021年6月开始研究diffusion，见证了扩散模型从无人问津到炙手可热的过程，这些篇经典论文我的专栏里都详细介绍过原理、复现过代码。这篇博客以时间发展顺序，串讲一下从入门到精(放)通(弃)的10篇必读的经典论文。
Diffusion Models视频生成-博客汇总
沉迷单车的追风少年
10-28 4634
Diffusion Models视频生成-博客汇总
ICLR 2023 | 扩散生成模型新方法：极度简化，一步生成
Paper weekly
02-28 4716
©作者 |刘星超单位 |德州大学奥斯汀分校研究方向 |生成式模型Diffusion Generative Models（扩散式生成模型）已经在各种生成式建模任务中大放异彩，但是，其复杂的数学推导却常常让大家望而却步，缓慢的生成速度也极大地阻碍了研究的快速迭代和高效部署。研究过 DDPM 的同学可能见到过这种画风的变分法（Variational Inference）推导（截取自 What ar...
最新140篇！2024年4月 diffusion 生成扩散模型论文汇总
idol24的博客
04-29 2356
001 (2024-04-26) MV-VTON Multi-View Virtual Try-On with Diffusion Models https://arxiv.org/pdf/2404.17364.pdf002 (2024-04-26) Simultaneous Tri-Modal Medical Image Fusion and Super-Resolution us...
最新200篇！2024年5月 diffusion 生成扩散模型论文汇总
idol24的博客
06-12 2285
001 (2024-06-5) Non-stationary Spatio-Temporal Modeling Using the Stochastic Advection-Diffusion Equation https://arxiv.org/pdf/2406.03400.pdf002 (2024-06-5) Generative Diffusion Models for Fast...
扩散模型(Diffusion)最新综述+GitHub论文汇总-A Survey On Generative Diffusion
weixin_44603934的博客
12-07 6707
diffusion模型详解
Diffusion相关论文整理
Ding
05-17 681
Nerf, view synthesis,图像超分辨与diffusion结合的工作
最新150篇！2023年10月diffusion生成扩散模型论文汇总
idol24的博客
11-08 1180
001 (2023-10-30) CustomNet Zero-shot Object Customization with Variable-Viewpoints in Text-to-Image Diffusion Models https://arxiv.org/pdf/2310.19784.pdf002 (2023-10-30) Upgrading VAE Training ...
ECCV 2024 | 扩散模型diffusion如何改进？方向论文大汇总
idol24的博客
09-11 3925
1、∞-Brush : Controllable Large Image Synthesis with Diffusion Models in Infinite Dimensions从错综复杂的领域特定信息中合成高分辨率图像仍是生成建模中的一个重大挑战，尤其适用于大图像域（如数字组织病理学和遥感）中的应用。现有方法面临着关键限制：像素空间或潜在空间中的条件扩散模型在超出它们训练的分辨率时就会失去保...
2024年，扩散模型方向还能发顶会吗？
深度学习与计算机视觉
10-31 252
生成式扩散可以探索如何使用生成模型来合成具有高质量和多样性的数据。在 AI 长期发展中，谷歌、OpenAI等都接连推出了自己的生成模型，如 Imagen、Dall·E 2 等。生成式扩散还可以应用于诸多领域。例如，图像生成方面，可以使用生成式扩散来生成高质量的图像样本。在自然语言处理领域，生成式扩散可以用于合成自然语言文本，生成多样化的句子和段落。11月1日，我们邀请到哈工大计算机博士，多篇顶会...
[论文解析] Debiasing Scores and Prompts of 2D Diffusion for Robust Text-to-3D Generation
Joselynzhao
04-06 811
In this paper, we formulate and identify the sources of the Janus problem in zero-shot text-to-3D generation. In this light, we argue that debiasing the prompts and raw 2D scores is essential for the realistic generation. Therefore, we propose two methods
Diffusion models
最新发布
12-27
### 扩散模型概述 扩散模型是一种强大的生成模型，在机器学习领域内获得了广泛关注。这类模型通过逐步向数据添加噪声来学习其分布，之后再逆转这一过程以生成新的样本[^1]。 #### 噪声注入与移除机制 在训练阶段，扩散模型会逐渐增加高斯噪声到输入图像上，直到这些图像是完全随机的噪声为止。此过程中产生的不同时间步下的含噪版本被用来作为监督信号。对于去噪部分，则是从纯噪声开始尝试恢复原始清晰图片的过程；这一步骤可以看作是对之前加噪操作的一种逆运算。 ```python import torch.nn as nn class GaussianDiffusion(nn.Module): def __init__(self, timesteps=1000): super().__init__() self.timesteps = timesteps def q_sample(self, x_start, t, noise=None): # 加入噪音函数 pass def p_losses(self, denoise_model, x_start, t, noise=None): # 计算损失函数 pass ``` #### 应用场景与发展前景 除了用于无条件图像合成外，扩散模型还能够应用于各种其他任务，比如超分辨率重建、语义分割以及跨模态转换等复杂问题解决当中。随着研究深入和技术进步，未来可能会看到更多创新性的应用场景出现并取得更好的效果表现。
评论 36
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

沉迷单车的追风少年

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值