本文是LLM系列文章,针对《Mora: Enabling Generalist Video Generation via A Multi-Agent Framework》的翻译。
摘要
Sora是第一个引起社会广泛关注的大规模通用视频生成模型。自2024年2月由OpenAI推出以来,没有其他视频生成模型能与Sora的性能或支持广泛视频生成任务的能力相媲美。此外,只有少数完全发布的视频生成模型,大多数是闭源的。为了解决这一差距,本文提出了一个新的多智能体框架Mora,该框架结合了几个先进的视觉AI代理来复制Sora演示的通用视频生成。特别地,Mora可以利用多个视觉代理,并在各种任务中成功地模仿Sora的视频生成能力,例如(1)文本到视频生成,(2)文本条件图像到视频生成、(3)扩展生成的视频、(4)视频到视频编辑、(5)连接视频和(6)模拟数字世界。我们广泛的实验结果表明,Mora在各种任务中的性能接近Sora。然而,从整体上评估,我们的工作与索拉之间存在明显的性能差距。总之,我们希望这个项目能够通过协同人工智能代理来指导视频生成的未来轨迹。