大家好,我是爱绘画的彤姐。
昨天有小伙伴询问有没有视频转动漫方面的工作流。我也是抽时间简单了解了下,从效果来看,觉得基于DiffSynth-Studio的这款工作流转绘效果目前来看是很不错的。今天就给大家带来了这一款超稳定视频转动漫风格工作流。
视频转绘这么火的赛道下,老铁们怎么能不会呢。下面我们一起来看一看。
DiffSynth-Studio介绍
项目地址:
https://github.com/modelscope/DiffSynth-Studio
DiffSynth Studio 是一款 Diffusion 引擎。它重构了包括 Text Encoder、UNet、VAE 等在内的架构,在增强计算性能的同时保持了与开源社区模型的兼容性。并且提供了许多有趣的功能。
到目前为止,DiffSynth Studio 支持以下模型:
CogVideo、FLUX、ExVideo、Kolors、Stable Diffusion 3、Stable Video Diffusion、Hunyuan-DiT、RIFE、ESRGAN、Ip-Adapter、AnimateDiff、ControlNet、Stable Diffusion XL、Stable Diffusion
是的你没看错,连目前很火的Flux以及CogVideoX-5b也都是支持的。
视频合成:
长视频合成:
卡通着色:
视频风格化:
图像合成:
生成高分辨率图像,突破扩散模型的限制!支持Lora 微调。
好了,关于DiffSynth-Studio就简单介绍这么多,想了解更多详细的内容请访问上面的项目地址。
接下来我们看看基于DiffSynth-Studio的视频转动漫工作流。
工作流介绍
工作流下载:扫码按需自取,无偿分享。
工作流下载后导入到ComfyUI中,如果存在缺失节点,请根据提示进行缺失节点的安装,安装成功后记得重启哦。
ComfyUI-DiffSynth-Studio节点地址:
https://github.com/AIFSH/ComfyUI-DiffSynth-Studio
本工作流涉及到以下模型(我已将需要的模型整理到了网盘,可文末获取):
AnimateDiff、RIFE、textual_inversion、Annotators、controlnet、stable_diffusion/flat2DAnimerge_v45Sharp.safetensors
模型放置位置:
AnimateDiff、RIFE、textual_inversion放置目录:
ComfyUI\custom_nodes\ComfyUI-DiffSynth-Studio\models
Annotators、controlnet放置目录:
ComfyUI\models
stable_diffusion/flat2DAnimerge_v45Sharp.safetensors放置目录:
models/stable_diffusion/
整个工作流相对也比较简单,前半部分是需要转换视频的上传及模型、ControlNet控制节点。
后面两个节点分别是视频转绘处理Diffutoon节点和视频预览节点。在Diffutoon节点中可以调整生成视频的参数。这里通过start参数可以控制从视频的哪一秒开始着色转换,length可调整视频的生成长度。如果您的本地配置不高可以尝试降低animatediff_batch_size和animatediff_stride的值。
好了,今天的分享就到这里了,感兴趣的赶快下载试玩吧~~
写在最后
感兴趣的小伙伴,赠送全套AIGC学习资料,包含AI绘画、AI人工智能等前沿科技教程和软件工具,具体看这里。
AIGC技术的未来发展前景广阔,随着人工智能技术的不断发展,AIGC技术也将不断提高。未来,AIGC技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,AIGC技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,AIGC技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。
一、AIGC所有方向的学习路线
AIGC所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。
二、AIGC必备工具
工具都帮大家整理好了,安装就可直接上手!
三、最新AIGC学习笔记
当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
四、AIGC视频教程合集
观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。
五、实战案例
纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
若有侵权,请联系删除