Stable Diffusion 推荐硬件配置和本地化布署

Stable Diffusion简介

Stable Diffusion是由Stability AI开发的一种强大的文本到图像(Text-to-Image)生成模型,它能够根据用户提供的文本描述,生成与之相关的高质量、高分辨率图像。下面我从原理、特点、应用三个方面对Stable Diffusion作简要介绍:

1、原理:Stable Diffusion是一种潜在扩散模型(Latent Diffusion Model),它结合了以下技术:

• 变分自编码器(VAE):将高维图像压缩到低维的潜在空间,再从潜在空间解码重建图像。
• U-Net:一种U型的卷积神经网络,用于潜在空间中的扩散过程,根据文本条件对潜在表示进行去噪。
• CLIP文本编码器:将输入的文本描述映射为语义向量,作为U-Net的条件。
• scheduler:控制扩散过程的噪声水平和步数。
  通过这些模块的协同工作,Stable Diffusion能够学习文本和图像的对应关系,并根据文本生成符合语义的图像。

2、特点:与DALL-E、Midjourney等文图生成模型相比,Stable Diffusion具有以下优势:

• 开源:模型架构、权重完全开源,用户可以根据需求进行微调和再训练。
• 高效:生成一张512x512的图像只需要几秒钟,支持批量生成。
• 泛化性强:在没有见过的概念上也有很好的生成效果,支持多种语言。
• 可控性强:支持使用prompt engineering引导生成过程,还可以结合ControlNet、T2I-Adapter等实现更精细的控制。
• 应用范围广:支持图像到图像、图像内绘制、图像编辑、超分辨率等多种任务。

3、应用:Stable Diffusion在许多领域展现出广阔的应用前景,例如:

• 艺术创作:根据文字描述生成插画、概念设计、艺术品等。
• 游戏设计:快速生成游戏场景、角色、道具等素材。
• 时尚设计:根据需求生成服装、鞋帽、饰品等设计。
• 建筑设计:生成建筑外观、室内设计、园林景观等效果图。
• 教育:为教材、幻灯片、视频等生成配图。
• 医疗:辅助医学影像分析、药物设计等。
• 娱乐:生成表情包、梗图、头像等。

硬件配置

Stable Diffusion是开源的， GitHub地址:https://github.com/CompVis/stable-diffusion，布署Stable Diffusion需要什么要的硬件配置呢，让我来为你推荐一下吧。

硬件配置:

 1、GPU:Stable Diffusion对显存要求较高,推荐使用NVIDIA的RTX系列显卡。

• RTX 3090 (24GB):能够舒适地运行所有的Stable Diffusion模型
• RTX 3080 (12GB):也是非常不错的选择,性价比高
• RTX 3070 (8GB):勉强可以运行,但需要启用DeepSpeed等优化技术,可能会OOM
• 如果预算允许,可以考虑RTX 4090等新一代显卡

 2、CPU:推荐使用高主频、多核心的处理器如Intel i7、i9或AMD Ryzen 7、9系列。

 3、内存:推荐32GB及以上,最低也要16GB。

 4、硬盘:推荐使用SSD,读写速度快,至少需要100GB空间。

本地化部署

 1、操作系统:推荐使用Linux如Ubuntu 20.04,也可以使用Windows 10/11。

 2、安装Anaconda:从官网下载并安装Anaconda,用于创建Python虚拟环境。

 3、创建虚拟环境:打开终端,输入以下命令创建名为sdiff的虚拟环境。

conda create -n sdiff python=3.8
conda activate sdiff

 4、安装PyTorch:根据你的CUDA版本,从PyTorch官网获取安装命令。例如CUDA 11.6的安装命令为:

pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu116

 5、安装Stable Diffusion:

• 从GitHub克隆Stable Diffusion的WebUI仓库

  git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
  cd stable-diffusion-webui
  

• 安装所需依赖

  pip install -r requirements.txt
  

• 下载Stable Diffusion的权重文件,并放在models/Stable-diffusion目录下。权重文件可以从Hugging Face下载,如sd-v1-4.ckpt。

 6、运行WebUI:在stable-diffusion-webui目录下,输入以下命令启动WebUI:

python launch.py --share --xformers

--share参数会生成一个公开的URL方便外部访问,--xformers参数会启用xformers加速生成速度。

 7、访问WebUI:打开浏览器,输入步骤6终端输出的公开URL,即可使用WebUI进行图像生成、超分辨率等操作。

以上是Stable Diffusion的推荐硬件配置和本地化部署步骤,你可以根据自己的需求和预算进行调整。部署过程中如果遇到问题,可以参考官方文档或在GitHub上提issue寻求帮助