PowerPaint:强大扩图编辑工具,兼具上下文感知和文本引导对象修复,ComfyUI体验指南

ComfyUI扩图编辑工具,是一款功能强大的[图像编辑软件],集成了多种先进的图像处理技术和创意工具。无论你是想要放大图像、修复图像中的缺陷,还是想要实现上下文感知和文本引导对象修复,ComfyUI都能轻松应对。这一工具的出现,为图像编辑和创作带来了极大的便利。

PowerPaint
是一款由清华大学和上海人工智能实验室共同合作的首个多功能图像修复模型,能够在各种修复任务中取得了先进的结果,如文本引导的对象修复、上下文感知图像修复、可控形状拟合的形状引导对象修复和外部绘制

为了克服实现高质量的多功能图像修复(根据用户意图用合理内容填充用户指定的区域)这一挑战,研究团队引入了 PowerPaint
方法,这是首个在同时处理上下文感知图像修复文本引导对象修复 两个任务重都表现出色的高质量多功能修复模型。

  • • 首先,引入了可学习的任务提示以及定制的微调策略,明确引导模型关注不同的修复目标。这使得 PowerPaint 能够通过使用不同的任务提示完成各种修复任务,从而实现优秀的性能。

  • • 其次,通过展示任务提示在 PowerPaint 中的有效性,作为对象移除的负面提示,展示了任务提示的多功能性。此外,研究团队还利用提示插值技术实现可控的形状引导对象修复。

  • • 最后,在各种修复基准上广泛评估 PowerPaint,证明模型能够在多功能图像修复中的优越性能。

在这里插入图片描述

这份完整版的AI绘画全套学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

PowerPaint架构方法

PowerPaint 是对一个文本到图像的模型进行了微调,使用了两个任务提示,即 Pobj
Pctxt,分别用于文本引导的对象修复和上下文感知图像修复。具体来说,Pobj
可以用作负面提示,通过无分类器引导采样进行有效的对象移除。研究团队还进一步引入了 Pshape 进行形状引导的对象修复,这可以通过与 Pctxt
的提示插值进一步扩展,以控制生成的对象与遮罩形状的对齐程度。

ComfyUI PowerPaint体验

之前文章中已经介绍过ComfyUI-BrushNet的安装方法,如果已安装同学自行跳过。(插件文末扫描可自行获取)

  • • 首先通过ComfyUI插件管理器搜索ComfyUI-BrushNet,并安装该插件。

  • • 下载对应模型,并放置在ComfyUI/models/inpaint目录下。模型和工作流可在文末中获取

  • • 如使用PowerPaint,还需要获取 SD1.5 文本编码器模型 model.fp16.safetensors。它应该放置在本地的 models/clip 文件夹中。

  • • 导入工作流,并重启ComfyUI。

插件安装界面

模型目录

在使用PowerPaint功能时候,PowerPaint作者建议在提示中添加以下短语:

  • 对象移除empty scene blur

  • 上下文感知empty scene

  • 外部绘制empty scene

PowerPaint扩图体验

工作流界面

这里采用的是横向扩图设置。

01. 蛋糕
原图

效果图

02. 人物-肖像写真
原图

效果图

03. 室内-客厅
原图

效果图

04. 室内-沙发
原图

效果图

PowerPaint对象移除体验

工作流界面

关于这款对象移除功能,并不是完美
,对于便于物体移除效果显著,如下面演示的植物叶,但是对于中心物体如蛋糕移除,总会产生新替代物。因此不在这里推荐该功能,只作简单演示。

01. 边缘主体移除(干净移除)

移除提示词为:leafage 。能够清晰看见移除叶子。

原图

效果图

02. 中心主体移除(不完美,移除并新增物体)

移除提示词为:cake 。蛋糕虽然移除了,但是新增了其他物体。

原图

效果图

关于AI绘画技术储备

学好 AI绘画 不论是就业还是做副业赚钱都不错,但要学会 AI绘画 还是要有一个学习规划。最后大家分享一份全套的 AI绘画 学习资料,给那些想学习 AI绘画 的小伙伴们一点帮助!

对于0基础小白入门:

如果你是零基础小白,想快速入门AI绘画是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以找到适合自己的学习方案

包括:stable diffusion安装包、stable diffusion0基础入门全套PDF,视频学习教程。带你从零基础系统性的学好AI绘画!

零基础AI绘画学习资源介绍

👉stable diffusion新手0基础入门PDF👈

(全套教程文末领取哈)
在这里插入图片描述

👉AI绘画必备工具👈

在这里插入图片描述

温馨提示:篇幅有限,已打包文件夹,获取方式在:文末

👉AI绘画基础+速成+进阶使用教程👈

观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

温馨提示:篇幅有限,已打包文件夹,获取方式在:文末

👉12000+AI关键词大合集👈

在这里插入图片描述

这份完整版的AI绘画全套学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值