Stable Diffusion 3.5 模型在 Linux 上的部署指南

---

前言-参考资料如下

ComfyUI WIKI教程
sd3.5 github
尝试过sd集成ollama，但是sd在ollama上无法良好运行。故此作罢
最简单方式可以找秋叶启动器，但是不支持linux

在此之前建议安装CUDA驱动，详见 CUDA安装教程

前言. python管理器安装

UV依赖管理器

curl -LsSf https://astral.sh/uv/install.sh | sh
# 将 uv 复制到系统路径
whereis uv
sudo mv /用户目录/uv /usr/local/bin/uv
sudo chmod -R 755 /usr/local/bin/uv  # 确保所有用户可执行
# 验证
which uv  # 应返回 /usr/local/bin/uv
# 创建全局配置文件
sudo vim /etc/profile.d/uv.sh
# 添加以下内容
export PATH="/usr/local/bin:$PATH"

# 使配置生效（所有用户重新登录后自动生效）
source /etc/profile

# 切换用户验证
uv self update

一. ComfyUI安装

ComfyUI 是最简单易懂的图像生成应用程序。想象一下，您不知道编码，但仍然想了解每个段是什么以及在哪里相互连接，那么连接节点会让您的生活更轻松。
注意点

sudo git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI
# 启动虚拟环境
sudo uv venv myenv
sudo chmod 777 -R myenv
# 激活虚拟环境
source ./myenv/bin/activate
uv pip install -r requirements.txt  -i https://pypi.tuna.tsinghua.edu.cn/simple
uv pip install gitpython -i https://pypi.tuna.tsinghua.edu.cn/simple
# 安装PyTorch 机器学习库 https://pytorch.org/get-started/previous-versions/
#=============注意需要参照自己CUDA版本================
uv pip install torch torchvision torchaudio -i https://pypi.tuna.tsinghua.edu.cn/simple
#==================================
# 运行
sudo python3 main.py --port 8188 --listen 172.24.208.230

# 退出虚拟环境
deactivate

1.2 安装ComfyUI节点管理器

1.comfyUI节点管理器

cd ComfyUI/custom_nodes
sudo git clone https://github.com/ltdrdata/ComfyUI-Manager.git
sudo python3 main.py --port 8188 --listen 172.24.208.230

二.模型下载

即city96/stable-diffusion-3.5-medium-gguf
SD3.5 medium官网存储库

2.1 安装GGUF

GGUF 是一种用于图象和视频生成的量化模型，主要用于高效生成渲染图像。
而 T5-XXL 是一个专注于文本处理的大型语言模型，主要负责文本的翻译和识别任务。

# 1.下载SD 3.5量化模型权重
cd ComfyUI/custom_nodes
sudo git clone https://github.com/city96/ComfyUI-GGUF.git

# 激活虚拟环境
source ./myenv/bin/activate
# 安装
pip3 install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
# 2.下载stable-diffusion-3.5-medium-gguf模型
# 抱抱脸专属下载工具
pip3 install -U huggingface_hub
export HF_ENDPOINT=https://hf-mirror.com

# 进入ComfyUI/models/unet 
cd ComfyUI/models/unet 
# 下载SD3.5 medium gguf量化模型
huggingface-cli download --resume-download city96/stable-diffusion-3.5-medium-gguf --include "sd3.5_medium-Q5_K_M.gguf" --local-dir . 
# 若上述huggingface-cli无法找到，显式执行
sudo /root/.local/bin/huggingface-cli download --resume-download city96/stable-diffusion-3.5-medium-gguf --include "sd3.5_medium-Q5_K_M.gguf" --local-dir .

# 3.将模型保存到ComfyUI/models/unet  
# gguf模型，把模型放在unet
mv sd3.5_medium-Q5_K_M.gguf ComfyUI/models/unet/sd3.5_medium-Q5_K_M.gguf

若上述 2 方式下载失败直接如下浏览器下载

2.2 基础ComfyUI和SD3.5配置

参考网址sd3.5 github

下载vae diffusion_pytorch_model.safetensors

cd ComfyUI/models/vae

下载clip.safetensors
低配下载t5xxl_fp8_e4m3fn.safetensors
下载clip_g.safetensors

cd ComfyUI/models/clip/

2.4 demo

sd5 fp8 demo