一、项目介绍:(文末提供下载)
腾讯图片生成跳舞视频的项目MimicMotion,高质量人类动作视频生成与置信感姿势。亮点:丰富的细节,良好的时间平滑性,以及长视频长度。
效果同时支持面部特征和唇形同步,不止可以搞跳舞视频,也可以做数字人。
本文信息图片均来源于
GitHub开源地址:https://github.com/Tencent/MimicMotion
二、效果展示
三、概述
近年来,生成式人工智能在图像生成领域取得了重大进展,催生了一系列应用。然而,视频生成仍然面临诸多挑战,如可控性、视频长度和细节丰富度等方面,这些都阻碍了这项技术的应用和普及。在这项工作中,我们提出了一种可控的视频生成框架,名为“模仿运动”(MimicMotion),它可以使用任何运动指导来生成任意长度的优质视频。与之前的方法相比,我们的方法有几个亮点。首先,通过具有信心的姿态引导,可以实现时间平滑性,从而在大规模训练数据下提高模型的鲁棒性。其次,基于姿态信心的区域损失放大显著减轻了图像失真。最后,为了生成流畅的长视频,我们提出了一种渐进式潜在融合策略。通过这种方式,可以以可接受的资源消耗生成任意长度的视频。通过大量的实验和用户研究,“模仿运动”在多个方面均显示出比之前方法显著的改进。
软件使用方法(转自bilibili作者万能君)
下载解压一键运行图片跳舞启动就可以使用了,下载链接