Flux【基础篇】:6G显存的福音,Flux最新量化版GGUF来了,本地部署安装教程

今天我们来分享一下如何在本地部署ComfyUI Flux.1 dev GGUF工作流。

一. 初识GGUF

GGUF全称为GPT-Generated Unified Format,一种专为大型语言模型设计的二进制文件格式,由llama.cpp创始人Georgi Gerganov提出,用于高效存储和交换大模型的预训练结果。这种格式优化了数据结构和编码方式,显著提升了模型文件的存储效率,并保证了快速的加载性能。

在Github上XLabs-AI官方网站,对于低内存的使用也是首推GGUF。

https://github.com/XLabs-AI/x-flux-comfyui

另外,很多小伙伴也听过或者使用过另一种低显存的使用方式:Flux.1 dev NF4,目前这种方式已被废弃。

https://github.com/comfyanonymous/ComfyUI_bitsandbytes_NF4

二. Flux.1 dev GGUF工作流搭建

我们以下面一个比较典型的ComfyUI Flux.1 dev GGUF工作流为例来进行详细说明(工作流文末网盘地址可以获取)。

相关说明:如果ComfyUI不是最新版本,需要先将ComfyUI更新到最新版本。

1. 插件的安装

插件地址:https://github.com/city96/ComfyUI-GGUF

通过插件管理器搜索ComfyUI-GGUF。

直接点击install按钮就可以完成安装。

也可以在\ComfyUI\custom_nodes目录下使用git命令安装到本地。

git clone https://github.com/city96/ComfyUI-GGUF

安装完成后重启一下ComfyUI。

2. flux1-dev GGUF模型的下载**(文末网盘地址也可获取)**

https://huggingface.co/city96/FLUX.1-dev-gguf/tree/main

将下载的大模型放置到ComfyUI\models\unet目录下。

  • 对于dev版本推荐:flux1-dev-Q8_0.gguf

  • 对于channel版本推荐:flux1-dev-Q4_K_S.gguf

3. CLIP模型的下载

https://huggingface.co/comfyanonymous/flux_text_encoders/tree/main

下载t5xxl_fp8_e4m3fn.safetensors(4.89 GB)和clip_l.safetensors(246 MB)文件放置到\ComfyUI\models\clip目录下。

4. VAE模型的下载

https://huggingface.co/black-forest-labs/FLUX.1-dev/tree/main

下载ae.safetensors(335M)文件放置到\ComfyUI\models\vae目录下。

5. LORA模型的下载

https://huggingface.co/XLabs-AI/flux-lora-collection/tree/main

目前Flux.1发布了7款loar,分别是动漫,艺术、迪士尼、MJV6、毛绒、写实、风景。下载所需要的loar模型文件放置到ComfyUI\models\loras目录下。

6. 使用工作流

点击ComfyUI启动脚本文件, 在主界面点击"load" 按钮,把工作流文件加载进来。

至此,Flux.1 dev GGUF的ComfyUI工作流就可以应用了。

相关说明:Flux.1 dev和Flux.1 dev GGUF工作流的主要区别。

Flux.1 dev工作流中使用Load Diffusion Model节点

Flux.1 dev GGUF工作流使用Unet Loader (GGUF) 节点

好了,今天的分享就到这里了,希望今天分享的内容对大家有所帮助。
这里为了帮助大家更好地掌握 ComfyUI,分享一套字节大佬整理的ComfyUI工作流集合,其包含了很多好玩有趣,但又有点复杂的工作流节点和json配置。

涵盖了 Stable Scascade、3D、LLM+SD、Portrait Master、SVD 等相关类别的工作流,共计15个类目38项工作流。这些都放在了下方卡片,需要的点击免费获取:

img

对于初学者来说,最佳的学习方法是以这些现成的工作流为模板,一步步地复刻并理解它们。

通过观察和分析别人的工作流,你可以学习到各种节点搭建的技巧和方法。随着理解的深入,你将能够根据自己的需求创新和搭建属于自己的工作流。

希望本文能帮助你有效地提升你的设计效率和创造力。

对于从来没有接触过AI绘画的同学,我已经帮你们准备了详细的学习成长路线图。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。

img

这份完整版的AI绘画资料和SD整合包已经打包好了,需要的点击下方插件,即可前往免费领取!
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值