[ComfyUI]Paints-Undo:CN作者新作SD绘图过程解释,是否能成为AIGC可控性助力?

大家好我是小王同学!!!

在AIGC绘图过程中相同的配置,每一次生成结果都带有随机性,存在不可解释和不可控性。ControlNet作者最新作品Paints-Undo尝试重现SD图像生成中每一步过程,这是否能成为这一问题助力,我们只能拭目以待它之后的成果和发展。

Paints-Undo简介

近期ControlNet作者又推出了一款新项目框架:Paints-Undo,这是一个目标定位为解释和提供AIGC绘图行为的基础模型项目,作者称这是为了探索和希望未来的人工智能模型能够更好地满足人类艺术家的真实需求。项目名称“Paints-Undo”灵感来自于该模型输出看起来像是在数字绘画软件中的多次按下“撤销”按钮(通常是Ctrl+Z)行为Paints-Undo 需要以图像作为输入,然后输出该图像的绘图过程序列视频。模型能够展示了各种人类行为,包括但不限于草图、描边、上色、阴影、变换、左右翻转、色彩曲线调整、改变图层可见性等,甚至是在绘图过程中的改变整体构思。

当前一共发布了两个模型paints_undo_single_framepaints_undo_multi_frame,分别被称为单帧模型和多帧模型。

单帧模型以一张图像和一个操作步骤作为输入,并输出一张单独的图像。假设一件艺术品总是可以通过1000个人类操作来创建(例如,一笔刷子就是一次操作),操作步骤是一个从0到999的整数。数字0是完成的最终艺术品,数字999是在纯白色画布上绘制的第一笔画。您可以将此模型理解为“撤销”模型(或称为Ctrl+Z)。您输入最终图像,并指示您想要“Ctrl+Z”多少次,模型将给您一个“模拟”的截图,就像那些“Ctrl+Z”被按下之后的样子。如果您的操作步骤是100,那么这意味着您想要在这张图像上模拟“Ctrl+Z”100次,以获得第100次“Ctrl+Z”后的外观。

多帧模型以两张图像作为输入,并输出两张输入图像之间的16个中间帧。结果比单帧模型更加一致,但也更慢,更少“创造性”,并且限制在16帧。

该模型是SD1.5的修改架构,训练时使用了不同的betas调度器、clip跳过和前述的操作步骤条件。

项目介绍中,提到是在24GB显存的Nvidia 4090和3090TI上进行。理论上说,16GB的显存应该也够用,但8GB就不行了,最少需要大概10到12.5GB的显存。根据不同配置,处理一张图大约需要5-10分钟。生成视频支持时长25秒,帧率为4FPS,分辨率可能是320x512、512x320、384x448或448x384。

官方视觉演示案例

01

在这里插入图片描述

02

03

04

05

Paints-Undo使用指南

插件安装

当前ComfyUI社区插件ComfyUI-ZZXYWQ已经支持Paints-Undo演示。因此,首先请确保更新ComfyUI到最新版本,并安装ComfyUI-ZZXYWQ插件,加载工作流文件可自行扫描获取,即可开始体验。
在这里插入图片描述

涉及下载模型将自动首次运行下载,注意科学。插件地址:https://github.com/ZZXYWQ/ComfyUI-ZZXYWQ

工作流中为了简化Prompt书写,使用了WD14-Tagger插件自动生成Prompt。插件地址为:https://github.com/pythongosssss/ComfyUI-WD14-Tagger

工作流界面

Paints-Undo体验

社区在线免费体验地址:

本文涉及工作流下载地址(可自行扫描获取):
在这里插入图片描述

当前ZZX_PaintsUndo插件还在开发中,仅支持黑白线稿线稿上色合成视频还在计划中,还需待作者进一步晚上。

01. 写实

输出图像(笔者仅截取其中关键步骤输出):

在这里插入图片描述

可以看出在第3个节点100步已基本线稿成形。

02:动漫

输出图像(笔者仅截取其中关键步骤输出):

在这里插入图片描述

03. 在线体验

可以使用本节开始提到的在线地址体验:https://paintsundo.com/#demo。具体操作如下所示:

01. 生成Prompt

02. 生成视频帧

03. 合成视频

04. 输出视频

05. 写实视频

01. 生成Prompt

02. 生成视频帧

03. 合成视频

资料软件免费放送

次日同一发放请耐心等待

关于AI绘画技术储备

学好 AI绘画 不论是就业还是做副业赚钱都不错,但要学会 AI绘画 还是要有一个学习规划。最后大家分享一份全套的 AI绘画 学习资料,给那些想学习 AI绘画 的小伙伴们一点帮助!

感兴趣的小伙伴,赠送全套AIGC学习资料和安装工具,包含AI绘画、AI人工智能等前沿科技教程,模型插件,具体看下方。

需要的可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

**一、AIGC所有方向的学习路线**

AIGC所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

在这里插入图片描述

二、AIGC必备工具

工具都帮大家整理好了,安装就可直接上手!
在这里插入图片描述

三、最新AIGC学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
在这里插入图片描述
在这里插入图片描述

四、AIGC视频教程合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述
这份完整版的学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值