Flux自发布以来,一直稳坐AI绘画的头把交椅。围绕Flux官方模型,社区也做了大量的积极反馈,各种衍生模型层出不穷。不过一直比较遗憾的是:Flux的ControlNet模型效果都不咋滴,常用的Canny、Depth、Pose等Flux版本的ControlNet模型虽然也能找到,但是生成的图片往往控制效果不佳或者质量较差。
不过,最近黑森林工作室(Flux官方)发布了 Flux.1 Tools 系列模型,使用这些新模型可以获得很好的图片生成控制效果,最重要的是生成的质量也很不错,无论是局部重绘、图片高仿,还是风格合成,甚至模特换装、产品换背景都有不错的效果,算是补上了Flux生图的可控性短板。
效果展示
废话不多说,先看效果。
Flux.1 Tools 介绍
FLUX.1 Tools 包含四个不同的功能:
-
FLUX.1 Fill:最先进的修复模型,结合文本提示词,可用于局部重绘和一键扩图。
-
FLUX.1 Depth:基于深度图的结构,结合文本提示词,生成新的图片,实现Depth ControlNet的能力。
-
FLUX.1 Canny:基于线稿图的结构,结合文本提示词,生成新的图片,实现Canny ControlNet的能力。
-
FLUX.1 Redux:生成图片的变种或者说是风格迁移,实现类似 IPAdapter 的能力。
下边就来给大家展示下这些工具的处理能力,因为SD WebUI生态对 Flux 的跟进比较缓慢,这里将以ComfyUI为例进行讲解,大家本地跑不起来的可以使用我的云镜像,插件和模型都已经装好了,可以直接体验。
云镜像地址(电脑端使用):https://haoee.com/applicationMarket/applicationDetails?appId=27&IC=XLZLpI7Q
Flux.1 Fill
我们将演示 Flux.1 Fill 模型的两个能力:局部重绘和一键扩图。
先看局部重绘:首先上传一张图,然后给需要重绘的区域添加遮罩,编写新效果的提示词,加载Flux.1 Fill模型,最后点击生成就可以了。这里使用的Fill模型是一个原版模型的量化版本,使用的显存更少,生图的质量损失很小。
再看一键扩图,相比“一键重绘”,主要的改变是使用“外补画板”来创建扩图区域的遮罩。
有了Flux.1 Fill,我们可以完全抛弃之前的Foocus局部重绘了,过渡更自然,生图质量更高。
FLUX.1 Depth
Flux.1 Depth 是一个使用深度图控制图像生成的模型,我们先要使用相应的ControlNet预处理器生成深度图,然后再作为生图条件传给采样器进行处理。除了使用深度图作为生图条件,我们还可以结合文本提示词条件,这样可以获得更多的控制效果。
为了增强 Depth 控制的灵活性,黑森林工作室还从 Flux.1 Depth 中提取出了一个 LoRA模型,这样我们就可以在自己训练的Flux模型上叠加官方提供的 Depth 控制能力了,不过效果会比原版的 FLUX.1 Depth 模型差一点点。
FLUX.1 Canny
Flux.1 Canny 是一个使用线稿图控制图像生成的模型,我们先要使用相应的ControlNet预处理器生成线稿图,然后再作为生图条件传给采样器进行处理。除了使用线稿图作为生图条件,我们还可以结合文本提示词条件,这样可以获得更多的控制效果。
黑森林工作室同样从 Flux.1 Canny 中提取出了一个 LoRA模型,我们可以在自己训练的Flux模型上叠加官方提供的 Canny 控制能力了,效果也是会比原版的 FLUX.1 Canny 模型差一点点。
FLUX.1 Redux
FLUX.1 Redux 是一个变种生成模型,它可以参考现有图片生成一张类似的图片,我们还可以参考多张图来生成新的图片,这种能力和之前常用的IPAdapter效果比较类似。
先看这个基本的变种图生成,输入一只猫咪图,生成类似的猫咪图。
再来看一个现实猫咪和卡通青蛙的合体。
最后官方的Pro版本可以通过提示词生成不同风格的重绘图,但是免费模型没有这个能力,不过社区在这块搞出了很多发明创造。比如下边的图是通过结合其它重绘处理,生成了结构类似但风格不同的新图片。
另外基于 Flux Fill + Redux 的模特换装、产品换背景、图案迁移等,社区都已经搞出来了,后续我也会给大家介绍。
资源下载
为了帮助大家更好地掌握 ComfyUI,我在去年花了几个月的时间,撰写并录制了一套ComfyUI的基础教程,共六篇。这套教程详细介绍了选择ComfyUI的理由、其优缺点、下载安装方法、模型与插件的安装、工作流节点和底层逻辑详解、遮罩修改重绘/Inpenting模块以及SDXL工作流手把手搭建。
由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取
一、ComfyUI配置指南
- 报错指南
- 环境配置
- 脚本更新
- 后记
- …
二、ComfyUI基础入门
- 软件安装篇
- 插件安装篇
- …
三、 ComfyUI工作流节点/底层逻辑详解
- ComfyUI 基础概念理解
- Stable diffusion 工作原理
- 工作流底层逻辑
- 必备插件补全
- …
四、ComfyUI节点技巧进阶/多模型串联
- 节点进阶详解
- 提词技巧精通
- 多模型节点串联
- …
五、ComfyUI遮罩修改重绘/Inpenting模块详解
- 图像分辨率
- 姿势
- …
六、ComfyUI超实用SDXL工作流手把手搭建
- Refined模型
- SDXL风格化提示词
- SDXL工作流搭建
- …
由于篇幅原因,本文精选几个章节,详细版点击下方卡片免费领取