Mora: Enabling Generalist Video Generation via A Multi-Agent Framework

本文是LLM系列文章，针对《Mora: Enabling Generalist Video Generation via A Multi-Agent Framework》的翻译。

摘要

Sora是第一个引起社会广泛关注的大规模通用视频生成模型。自2024年2月由OpenAI推出以来，没有其他视频生成模型能与Sora的性能或支持广泛视频生成任务的能力相媲美。此外，只有少数完全发布的视频生成模型，大多数是闭源的。为了解决这一差距，本文提出了一个新的多智能体框架Mora，该框架结合了几个先进的视觉AI代理来复制Sora演示的通用视频生成。特别地，Mora可以利用多个视觉代理，并在各种任务中成功地模仿Sora的视频生成能力，例如（1）文本到视频生成，（2）文本条件图像到视频生成、（3）扩展生成的视频、（4）视频到视频编辑、（5）连接视频和（6）模拟数字世界。我们广泛的实验结果表明，Mora在各种任务中的性能接近Sora。然而，从整体上评估，我们的工作与索拉之间存在明显的性能差距。总之，我们希望这个项目能够通过协同人工智能代理来指导视频生成的未来轨迹。

1 引言

2 相关工作

3 Mora:一种用于视频生成的多Agent框架

4 实验

5 讨论

6 结论

我们介绍了Mora，这是一个开创性的视频生成通用框架，可解决一系列与视频相关的任务。利用多个代理的协作能力，Mora标志着在从文本提示生成视频方面取得了相当大的进步，为视频生成领域的适应性、效率和输出质量建立了新的基准。我们的全面评估表明，Mora不仅在某些领域与当前领先模型竞争，而且超越了它们的能力。然而，它与OpenAI的Sora模型有着显著的差距，后者的封闭源代码性质对学术界和专业界的复制和创新提出了相当大的挑战。我们的工作展示了元编程方法尚未开发的潜力，该方法有助于各种代理之间的复杂合作，每个代理都专门从事视频生成过程的一个部分。从本质上讲，Mora的成就不仅说明了当前视频生成中最先进的开源模型，而且为该领域指明了前进的道路。随着我们继续探索生成人工智能的广阔前景，像Mora这样的多智能体协作框架无疑将在释放新的创造性可能性和应用方面发挥关键作用，从讲故事和内容创作到模拟和训练。创新之旅远未结束，Mora代表着这场正在进行的探索之旅中的一个重要里程碑。