【AI绘画】Flux持续火爆，这些Lora、ControlNet、工作流你值得拥有

最新推荐文章于 2024-10-15 11:08:59 发布

SD教程菌

最新推荐文章于 2024-10-15 11:08:59 发布

阅读量700

点赞数 20

文章标签： AI作画 stable diffusion 人工智能科技学习

本文链接：https://blog.csdn.net/2401_86895074/article/details/141568346

版权

大家好，我是每天分享AI应用的SD教程菌！

Flux自发布以来，受到了广大AI绘画爱好者的一致好评，远远的将SD3甩在了脑后，其出图质量媲美Midjourney。而且Flux迭代迅速，接连发布了Flux.1的开发模型和个人模型，其Lora模型、ControlNet模型也迅速推出，社区创作热情高涨。

为了让大家对Flux有一个全面的认识，本文将介绍下Flux基础模型、LoRA模型，以及ControlNet模型的使用方法。

因为Flux模型目前还不能在Stable Diffusion WebUI中使用，所以本文将以另一个常用的AI绘画工具 ComfyUI 为例进行讲解。

Flux介绍

Flux是目前最大的AI绘画开源模型，有120亿个参数，原始文件有23GB那么大。听起来很吓人吧？但别担心，通过ComfyUI的支持，我们可以把模型压缩到12GB，并且它会自动检测显存来调整加载方式，这样我们在普通的消费级电脑上也能跑得动。

Flux 在视觉效果、提示的准确性、大小和比例的灵活性、排版和输出多样性方面，比Midjourney v6.0、DALL·E 3 (HD) 和 SD3-Ultra这些流行模型都要好。它可以在256到2048的宽分辨率范围内生成高质量、少冗余的图像，四肢表现也非常稳定。虽然对硬件有点要求，但效果真的很值。

Flux目前发布的 Flux.1 有三个版本，pro、dev和schnell。pro效果最好，但是闭源不开放；dev效果和pro差不多，虽然有商业使用的限制，但是可以免费测试（你懂的）；schnell是个蒸馏模型，可以4步快速出图，效果虽然差点，但是也可以媲美Midjourney v6.0 和 DALL·E 3 (HD)。

Flux基础模型的使用

这里介绍两个基础模型的工作流：dev模型和schnell模型。

先看dev模型的工作流：Flux的工作流和其它SD模型的工作流没有太大的区别，都是：加载基础模型、编码提示词、定义潜在空间、采样器采样、解码器解码。

不太一样的就是这里增加了一个：Flux引导，Flux引导的目的是增强图片质量，生成训练时CFG为这个值的图像质量，但是不会降低生成速度；此时我们可以将CFG的值设置为1，用来提高生成速度，注意CFG的值不用太高，1-2.5即可；另外Flux.1还不能使用反向提示词。

在这里插入图片描述

再看schnell模型的使用：schnell 是个蒸馏模型，可以认为学习到了Flux原始模型的精华部分，这里不需要使用Flux引导，且只需要4步，图片的质量依旧很优秀。

在这里插入图片描述

另外这里用到的两个模型中都包含了提示词编码器CLIP和潜在空间解码器VAE，他们不用单独设置。

Flux LoRA模型的使用

再看这个LoRA模型的工作流。

这里使用了双CLIP编码器，并单独加载了CLIP模型，SD3也使用了双CLIP编码，CLIP1可以看做是对标签类提示词的编码，CLIP2是对自然语言提示词的编码，这样编码对图片的质量比较好。另外我们还使用了“CLIP文本编码Flux”这个编码器，它自带Flux引导，就不用单独添加Flux引导节点了。

因为单独加载了CLIP模型，这里使用了UNET加载器来加载Flux的基础模型，加载LoRA也是使用的Flux专属节点，后边的采样器也是专为Flux量身定制的Xlabs Sampler。

在这里插入图片描述

Flux ControlNet模型的使用

目前有三个适用于Flux的 ControlNet，分别是 Canny、Hed 和 Depth。这里以Canny为例：

在这里插入图片描述

工作流的左边是ControlNet的处理，右边是Flux采样部分的节点。

其中ControlNet的预处理器还是可以使用我们之前在SD1.5和SDXL使用的预处理器，但是加载和应用ControlNet模型要换成Flux专用的。

右侧的Flux采样使用的节点上边都介绍过了，这里就不废话了。有看不懂的地方，可以留言。

ControlNet模型正在快速迭代中，目前已经发布到了V3版本。

感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。

请添加图片描述

AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。同时，AIGC技术也将与人工智能技术紧密结合，在更多的领域得到广泛应用，对程序员来说影响至关重要。未来，AIGC技术将继续得到提高，同时也将与人工智能技术紧密结合，在更多的领域得到广泛应用。

在这里插入图片描述