AnimateDiff 生成补间动画

ca9825d4a43375157310c87da0151963.gif

c7e68995954af7277e8e75ffdc012cee.gif

87f2b83a5a6eadd22b77ae0ee51b90fb.gif

测试了下工作流,输入是2张图片,一张作为起点,另一张作为终点。

主要的实现原理:

1 通过controlnet的tile来处理

2 设置timestep_keyframe控制每一帧controlnet的权重

3 controlnet权重弱的部分,animatediff的影响变强

# ControlNet Tile 可以做什么?

借助 Controlnet Tile,你可以:

  • 修正图像细节

  • 纹理变化

  • 图像放大

- 生成图像,再使用Tile修正细节

18bb05ab6a3cfc4b5a65c2146edaf5ec.png

- 修改皮肤纹理

30dca763bcd68e89a17bb503669101a5.png

- 图像翻译

b7098b1acf289b3a859b9deead28d078.png

# 什么是 AnimateDiff ?

AnimateDiff 该论文提出了一个实用的框架,用于为现有的文本生成图像模型添加动画效果。该框架通过插入一个新的运动模块(经过训练学习了视频片段的动作知识)到已经冻结的文本生成图像模型中。所有基础模型都能够轻松地生成各种各样的个性化动画图像。

8806b928468528ac50bc1a8e9c4401c2.jpeg

基本的原理是什么呢?官方的解释有点深奥,我们换一种方式理解下此项技术:

Shadow是一位小朋友,他喜欢玩积木。有时候,他用积木搭建了一个静态的建筑,但是觉得有些无聊,想让它动起来。

于是,他想到了一个好方法,就是给他的积木加上一个小机器人,让它们动起来。

这个小机器人可以学习如何动,然后把学到的动作教给积木。

这样,Shadow所有搭建好的建筑都可以动起来了,而且不需要每次都重新学习一遍。

就像小朋友们学会了一个游戏规则,就可以用它来玩很多不同的游戏一样。

# 动画原理

比如要实现以下视频的效果,我们只需要准备2张图片,调整整个动画每一帧上controlnet的权重即可。 

49c73af65ee924ce70edca6b499ae463.png

工作流文件 - 知识星球 下载

bd227f01627cc7f7708b77eef5e518b0.jpeg

# 思考

除了做动图、动态LOGO等,还有哪些应用?欢迎一起交流探索。

73797bc1aa4d540c5316ffad4e75fc74.jpeg

最近,我们制作了comfyUI的中文指南,共享文档:

comfyui中文指南

2d226f94cf912cae1934d93af188f616.png

# 招募共建者

ComfyUI中文社区#文档汉化内测,全新的创作方式等你来探索!

c8f8196039a47c46b6221a6a06b778ad.gif

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Animate是一个实用框架,旨在将现有的大多数个性化文本到图像模型转化为动画生成器。它包括一个经过训练的运动建模模块,可以从大型视频数据集中提取出通用的运动先验。通过将运动模块插入到个性化模型中,AnimateDiff可以生成具有自然、适当运动的动画图像,同时忠实于相应的领域。它已经在多种个性化文本到图像模型上进行了广泛评估,并证明了其有效性和通用性。AnimateDiff为个性化动画提供了一个简单而有效的基线,有可能使广泛的应用受益。 如果你对AnimateDiff感兴趣,你可以在github上找到该框架的详细信息和代码实现。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [AnimateDiff论文解读-基于Stable Diffusion文生图模型生成动画](https://blog.csdn.net/qq_41994006/article/details/132011849)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [AnimateDiff Animate Your Personalized Text-to-Image Diffusion Models without Specific Tuning 机器...](https://blog.csdn.net/qcwlmqy/article/details/132069221)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v92^chatsearchT0_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值