AnimateDiff简介
该插件主要用来制作动图,并不能用来生成比较长的视频,我体验着和pika差不多,效果上照着商用还有不小的距离。在githup的网址中有论文地址和许多示例。
githup:GitHub - guoyww/AnimateDiff: Official implementation of AnimateDiff.
作者还提出了MotionLoRA,以前的lora大都是画风方面的,MotionLoRA是动作类型的,作者发布了几个镜头方向变化的模型,比如内容左移。
论文中介绍的主要包含3部分,其中motion module是针对动作的,从效果上看动作确实能控制,但是前后帧的内容上总不太对应,作者的demo中,人物的衣服和饰品都发生变化。归根结底,一帧一帧的做视频还是不行,期待sora的开放。
安装
AnimateDiff有sd的插件版本:GitHub - continue-revolution/sd-webui-animatediff: AnimateDiff for AUTOMATIC1111 Stable Diffusion WebUI<