首个4D视频生成扩散模型！数分钟实现4D内容生成，超81K优质数据集已开源

本文介绍由多伦多大学，北京交通大学，德克萨斯大学奥斯汀分校和剑桥大学团队最新提出的 4D 生成扩散模型，该方法可以在几分钟之内可以完成时空一致的 4D 内容生成。Diffusion4D 整理筛选了约 81K 个 4D assets，利用 8 卡 GPU 共 16 线程，花费超过 30 天渲染得到了约四百万张图片，包括静态 3D 物体环拍、动态 3D 物体环拍以及动态 3D 物体前景视频。

该方法是首个利用大规模数据集，训练视频生成模型生成 4D 内容的框架，目前项目已经开源所有渲染的 4D 数据集以及渲染脚本。

项目地址：

https://vita-group.github.io/Diffusion4D/

论文地址：

https://arxiv.org/abs/2405.16645

研究背景

过去的方法采用了 2D、3D 预训练模型在 4D（动态 3D）内容生成上取得了一定的突破，但他们主要依赖于分数蒸馏采样（SDS）或者生成的伪标签进行优化，同时利用多个预训练模型获得监督不可避免的导致时空上的不一致性以及优化速度慢的问题。

4D 内容生成的一致性包含了时间上和空间上的一致性，它们分别在视频生成模型和多视图生成模型中被探索过。基于这个洞见，Diffusion4D 将时空的一致性嵌入在一个模型中，并且一次性获得多时间戳的跨视角监督。

具体来说，使用仔细收集筛选的高质量 4D 数据集，Diffusion4D 训练了一个可以生成动态 3D 物体环拍视图的扩散模型，而后利用已有的 4DGS 算法得到显性的 4D 表征，该方法实现了基于文本、单张图像、3D 到 4D 内容的生成。

4D数据集

为了训练 4D 视频扩散模型，Diffusion4D 收集筛选了高质量的 4D 数据集。已开源的 Objaverse-1.0 包含了 42K 运动的 3D 物体，在 Objaverse-xl 中包含 323K 动态 3D 物体。然而这些数据包含着大量低质量的样本，研究者们设计了运动程度检测、边界溢出检查等筛选方法，选取了共 81K 的高质量 4D 资产。

对于每一个 4D 资产，渲染得到了 24 个静态视角的图（上图第一行），24 个动态视角的环拍图（上图第二行），以及 24 个正面动态图（上图第三行）。总计得到了超过四百万张图片，总渲染消耗约 300 GPU 天。其他数据集细节可以参考项目主页，目前所有渲染完的数据集和原始渲染脚本已开源，更多数据集使用方法值得探索！

方法

有了 4D 数据集之后，Diffusion4D 训练具有 4D 感知的视频扩散模型（4D-aware video diffusion model）。过去的视频生成模型通常不具备 3D 几何先验信息，但近期工作如 SV3D，VideoMV 等探索了利用视频生成模型得到静态 3D 物体的多视图，因此 Diffusion4D 选用了 VideoMV 作为基础模型进行微调训练，使得模型能够输出动态环拍视频。

此外设计了如运动强度（motion magnitude）控制模块、3D-aware classifier-free guidance 等模块增强运动程度和几何质量。得益于视频模态具备更强的连贯性优势，输出的结果具有很强的时空一致性。

输出得到动态视角环拍视频后，Diffusion4D 借助已有的 4D 重建算法将视频建模得到 4D 表达。具体来说采用了 4DGS 的表征形式，以及使用粗粒度、细粒度的两阶段优化策略得到最终的 4D 内容。从生产环拍视频到重建 4D 内容的两个步骤仅需花费数分钟时间，显著快于过去需要数小时的借助 SDS 的优化式方法。

结果

根据提示信息的模态，Diffusion4D 可以实现从文本、图像、3D 到 4D 内容的生成，在定量指标和 user study 上显著优于过往方法。在生成质量上，Diffusion4D 有着更好的细节，更为合理的几何信息以及更丰富的动作。更多可视化结果可以参考项目主页。

总结

Diffusion4D 是首个利用视频生成模型来实现 4D 内容生成的框架，通过使用超 81K 的数据集、以及精心设计的模型架构实现了快速且高质量的 4D 内容。未来，如何最大程度发挥 4D 数据集价值，如何生成多物体、复杂场景的 4D 内容仍有很大的探索空间！

更多阅读

#投 稿 通 道#

 让你的文字被更多人看到 

如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。

总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。 

PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个，让知识真正流动起来。

📝 稿件基本要求：

• 文章确系个人原创作品，未曾在公开渠道发表，如为其他平台已发表或待发表的文章，请明确标注 

• 稿件建议以 markdown 格式撰写，文中配图以附件形式发送，要求图片清晰，无版权问题

• PaperWeekly 尊重原作者署名权，并将为每篇被采纳的原创首发稿件，提供业内具有竞争力稿酬，具体依据文章阅读量和文章质量阶梯制结算

📬 投稿通道：

• 投稿邮箱：hr@paperweekly.site 

• 来稿请备注即时联系方式（微信），以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信（pwbot02）快速投稿，备注：姓名-投稿

△长按添加PaperWeekly小编

🔍

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

·

·