【ComfyUI教程】Flux：低配电脑福音，Flux最新量化版GGUF，最低6G显存可用

Android学习小分队

已于 2024-12-31 13:54:37 修改

阅读量3.2k

点赞数 17

文章标签：人工智能 AIGC flux comfyui Lora GGUF github

于 2024-12-19 11:41:34 首次发布

本文链接：https://blog.csdn.net/m0_56144365/article/details/144581936

版权

0****1

介绍

Flux生态如火如荼，各种插件都开始支持了，Lora、Controlnet、IPAdapter，不过有一些刚出来功能不是很好用，所以我们让子弹先飞一会，今天的话，主要介绍一下最近新出来的大模型GGUF，它能让大家8G的显存就可以跑Flux，大大降低了使用门槛，毕竟各种插件再好，配置不够用不上啥都白说。

GGUF全称为GPT-Generated Unified Format，一种专为大型语言模型设计的二进制文件格式，由llama.cpp创始人Georgi Gerganov提出，用于高效存储和交换大模型的预训练结果。这种格式优化了数据结构和编码方式，显著提升了模型文件的存储效率，并保证了快速的加载性能。

目前各大机构都在首推GGUF，XLabs-AI github上，低内存的推荐GGUF

前几天另外一个很火的NF4版本主页里面也开始推GGUF

所以，对于电脑设备不是很好的同学，直接开始用GGUF就够了。

安装相关

2.1 插件安装

插件地址：

https://github.com/city96/ComfyUI-GGUF

2.2 模型安装

模型地址：

https://huggingface.co/city96/FLUX.1-dev-gguf

可以看到，这里准备了很多版本精读的模型，大家根据自己电脑配置来使用，只有6G显存的推荐Q4、12以上显存的用Q8即可。

就算你本地4090电脑，我也推荐你弄一个Q8版本，因为后续还要接入其他插件，比如Controlnet、lora等，到时候占用的显存加起来会更大的。

模型下载后，放到 /ComfyUI/models/unet 目录下

经过各大博主的测试，最推荐的2个版本是Q4_0和Q8_0，无脑下即可，用Q4还是Q8看各位电脑配置支持。

界面说明

要使用GGUF的模型，和之前用FLux自带的工作流差不多，只要调整一个地方，把Load Diffusion Model节点替换为 Unet Loader (GGUF) 节点即可。

工作流如下：

另外，还有一种是直接使用K采样器的，个人感觉更舒服，之类用到的是Impack插件里面的K采样器，路径在 impact节点 - 采样，对了，想要用这个K采样器（节点束），你需要更新下impack插件到最新的。

我上面用了翻译插件，如果你不用，可以直接去掉这个，把CLIP文本编码器那边参数改成填写的即可。

这里，我测试了三种效果，传统的Flux fp8，GGUF的Q8_0和Q4_0，很直观的可以看到一些区别，T5都是用fp8版本。

01.卡通



chinese girl， 8k,raw photo,best quality,hp,sim,girl,wavy black hair,shoulder-leng

02.写实摄影



chinese girl， 8k,raw photo,best quality,hp,sim,girl,wavy black hair,shoulder-length,white shirt,minimalism,soft lighting,close-up,natural appearance,dark hair,casual wear,slight head turn,visible ears,earrings,neutral background,observational photography,indoor,medium lens,natural texture,easy setting,black lines,art,portrait style,,,in clothes

03.水果



summer,( watermelon), straw, plant, water, lake, tilt-shift,miniature photography,masterpiece,best quality, many people, eating watermelon,水果

这份完整版的AI绘画全套学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【`保证100%免费`】

### 04.徽章设计



\[hexagonal emblem\], owl head front view, geometric design, wise and professional, podcast cover art, "Night Owl Talks" text below, sharp angles, gradient colors, deep purple and gold palette, abstract pattern background,

05. 艺术



`Capture a hyper-realistic photograph of a whimsical creature, a kitten with the vibrant feathers of a parrot, and the elegant, sweeping tail of a peacock. The kitten’s body is small and fluffy, with patches of brightly colored feathers in shades of blue, green, and red, blending seamlessly with its soft fur. Its eyes are large and curious, while its tail fans out behind it in a display of shimmering peacock feathers. The scene is set in a tropical forest, with the creature perched on a low branch, surrounded by lush greenery and exotic flowers, as sunlight filters through the canopy, highlighting its dazzling, unique appearance.`

06. 风景



`Capture a hyper-realistic photograph of a whimsical creature, a kitten with the vibrant feathers of a parrot, and the elegant, sweeping tail of a peacock. The kitten’s body is small and fluffy, with patches of brightly colored feathers in shades of blue, green, and red, blending seamlessly with its soft fur. Its eyes are large and curious, while its tail fans out behind it in a display of shimmering peacock feathers. The scene is set in a tropical forest, with the creature perched on a low branch, surrounded by lush greenery and exotic flowers, as sunlight filters through the canopy, highlighting its dazzling, unique appearance.`