腾讯生成面部说话视频;理解人类行为的多模态模型;Apple Intelligence的技术要点

✨ 1: Follow-Your-Emoji

腾讯生成面部说话视频Follow-Your-Emoji

在这里插入图片描述

Follow-Your-Emoji,该框架可以通过目标标记序列对参考肖像进行动画处理。这个方法主要解决了保持参考肖像身份和迁移目标表情的挑战,同时维护了动画的时间一致性和真实性。

为了达到这些目标,Follow-Your-Emoji使用了两个经过精心设计的技术:首先,采用一种新的显性运动信号,即表情感知标记来引导动画过程。这种标记不仅能够确保参考肖像与目标运动之间的准确运动对齐,还能增强描绘夸张表情(如大幅度瞳孔运动)的能力,并避免身份泄露。其次,提出了一种面部细节损失,通过使用表情和面部遮罩来提高模型对细微表情感知和参考肖像外观重建的能力。

该方法展示了在控制自由风格肖像表情上的显著性能,包括真实人物、卡通、雕像,甚至动物的肖像。通过一种简单有效的渐进生成策略,扩展了模型的长时间动画稳定性,增加了其应用潜力。此外,为了应对这一领域缺乏基准的问题,研究团队引入了一个综合性基准EmojiBench,包含多样的肖像图像、驱动视频和标记。

地址:https://follow-your-emoji.github.io/

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

go2coding

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值