StableDiffusion Web UI开启FP8，极大节约显存

已于 2024-03-27 18:42:11 修改
阅读量946 收藏 2
点赞数 9
分类专栏： AI 文章标签： stable diffusion fp8 ai
于 2024-03-27 18:37:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/applebomb/article/details/137085201
版权
本文介绍了如何在最新版Pytorch升级后，通过启用FP8技术，显著降低StableDiffusion中SDWebUI的显存占用，使得在8GB显存下实现1080P图像生成变得可能，特别是针对高分辨率和耗显存模型的优化技巧。
摘要由CSDN通过智能技术生成

升级了Pytorch后，StableDiffusion最新版本就可以有使用FP8的基础了，因此把秋叶的LINUX包也升级到了最新的版本。

升级Pytorch参考我的升级记录：

ComfyUI SDWebUI升级pytorch随记-CSDN博客

然后下一步就是如何开启FP8了。与ComfyUI不同，SDWebUI不是通过启动参数来开启，而是在配置界面找到这个位置：

记得点保存生效。

本人16G显卡，开启最高分辨率2048x2048。模型使用更耗显存的SDXL，配置未开启额外的controlnet，直接跑图


请无视魔幻的界面，直接出图的正常现象

未开启FP8时

此时如果不开启TiledVAE，是会OutOfMemory的。在开启TiledVAE情况下，显存占用

开启FP8时

然后采用同样的参数，跑图时显存占用

可见降低了2.8G左右显存，确实极大的节约了显存占用。

因此开启了FP8后，使SDXL在8G显存稳定出1080P图成为了可能

FoxMale007
关注
专栏目录
webUI 4.27版本的插件
06-08
ue4 4.27 版本 web 界面
StableDiffusion WebUI启动器 绘梦.zip
02-06
"StableDiffusion WebUI启动器 绘梦.zip" 是一个包含了用于启动StableDiffusion Web用户界面的应用程序。这个启动器是用C#和.NET框架编写的，它为用户提供了一个方便的图形化界面来管理和操作StableDiffusion系统。...
不再担心显存不够了，矿卡40HX AI绘图，当下最快出图的Stable Diffusion webui分支项目forge
German2000的博客
02-27 877
矿卡 40HX在玩AI绘画时，除了8Gb内存有不太够用外，半精度运行速度也不行，所以之前为了上SDXL SVD之类的时候，花了很多时候去做优化。安装完成后，因为40hx的特殊性，需要加 --all-in-fp32 参数启动，可选参数 --listen 用于打开远程访问，可选参数 --enable-insecure-extension-access 用于打开扩展插件安装。6. 100%兼容webui项目，界面与操作一模一样，各种功能操作也一样，所以习惯了webui项目的同学，直接上手就可以了。
Stable Diffusion WebUI v1.8.0重大更新！
最新发布
weixin_55154866的博客
08-12 556
就在前几天，Stable Diffusion WebUI的作者AUTOMATIC1111，在GitHub上将其更新到了最新版—v1.8。
Stable Diffusion革新发布WebUI Forge，AI绘画突破显存限制｜TodayAI
TodayAI
03-26 475
Forge的发布，为广大创作者解决了长期以来显存占用过高的难题。Forge版本不仅在性能上获得显著提升，如8GB显存GPU的生成速度提升30%至45%，显存峰值降低700MB至1.3GB，还针对各种显存容量的GPU都实现了性能优化，包括24GB显存的4090 GPU。Forge的开发背景在于原版WebUI的资源管理及开发流程的复杂性，新版本通过全面重构后端，移除了所有旧的与资源管理相关的代码，使得在更低显存下运行成为可能，如4GB显存下运行SDXL以及2GB显存下运行SD1.5，无需任何特殊设置。
Stable Diffusion低显存也能跑大图了，再也不用怕爆显存！
WANGJUNAIJIAO的博客
07-05 2995
Stable Diffusion（以下简称SD）是一款很强大的AI绘画软件，很多人都会拿SD和MJ（Midjourney）作对比，其中最重要的一点就是使用门槛上，SD需要最低也是4GB的显存，如果显存低了是没办法获得很好的体验的，最佳的配置是12-24GB 基本上所有的功能都能用。现在pkuliyi2015大佬开发了一个免费插件Tiled Diffusion（插件安装目录文件夹：extensions），可以大幅度减少SD生图所需的显存，其工作原理就是将一张图不同的块，通过连续生成图块，然后再合并成一张图，
Stable Diffusion WebUI rtx 2060 6G 高清修复 爆显存torch.cuda.OutOfMemoryError: CUDA out of memory.
hknaruto的专栏
07-10 1229
零食解决办法，重启webui.sh进程，重新执行生成图片。
stable diffusion 的 GPU 不足怎么解决
m0_57448314的博客
03-27 2139
例如，可以使用近似算法或者采样技术来减少计算量，或者使用稀疏矩阵等数据结构来减少内存占用。4. 使用更高性能的GPU：如果GPU不足以处理大规模图像，可以考虑使用更高性能的GPU。例如，使用具有更多CUDA核心或更大显存的GPU。2. 并行计算：利用GPU的并行计算能力，可以将图像分成多个块，并同时在多个GPU核心上进行计算。5. 分布式计算：如果单个GPU无法满足需求，可以考虑使用多个GPU进行分布式计算。，可以减少GPU的计算负载。这可以通过缩小图像尺寸或者使用图像金字塔等技术来实现。
centos部署 stablediffusion webui
08-26
在CentOS上部署StableDiffusion的WebUI，可以使用户更加方便地管理和监控数据的传输。 首先，需要在CentOS上安装必要的软件和依赖项。可以使用Yum包管理器安装必要的库和工具，如Nginx、Python等。安装完配置好...
stablediffusion webui网址打不开
08-10
StableDiffusion WebUI是一个用户界面，通常用于访问名为Stable Diffusion的模型或服务。如果遇到WebUI网址打不开的问题，可能是以下几个原因： 1. **网络连接**：检查您的网络连接是否稳定，尝试刷新页面或换一个...
ChatGPT-chatgpt的minimal极简化WebUI实现-优质大模型应用实战.zip
02-27
ChatGPT_chatgpt的minimal极简化WebUI实现_优质大模型应用实战
ComfyUI SDWebUI升级pytorch随记
applebomb的专栏
03-27 1319
目前使用的版本是去年10月的1.6版本，有点老。希望支持新的特性，于是乎开始作死。从升级torch开始
本地运行stable-diffusion环境，显卡和内存建议多少
GranteZhou的专栏
07-19 1476
当然，显存和内存越高越好，目的是因为正常AI生成图像，可以根据提示词一次生成多张图片，从中提取可能自己满意的图片，然后再做后续的处理或创着。内存32G以上，用于对图片做更复杂的处理时，保存更多的中间计算过程。显卡显存：8G以上，用于生成分辨率较大，清晰度更高的图片。
Stable Diffusion WebUI 1.8.0来了
程序员，AI探索者
03-14 1569
上周 Stable Diffusion WebUI 发布了 1.8.0 版本，更新内容比较多，据说显存使用有了大幅的下降，这几天我也找时间把 AutoDL 镜像的版本做了个升级，有兴趣的同学可以去体验下新版本了。这里分享下其中几个我认为比较重要的更新。
惊喜！4G显卡也能用Stable Diffusion啦
白帽阿叁的博客
03-06 1709
感兴趣的小伙伴，赠送全套AIGC学习资料，包含AI绘画、AI人工智能等前沿科技教程和软件工具，具体看这里。AIGC技术的未来发展前景广阔，随着人工智能技术的不断发展，AIGC技术也将不断提高。未来，AIGC技术将在游戏和计算领域得到更广泛的应用，使游戏和计算系统具有更高效、更智能、更灵活的特性。同时，AIGC技术也将与人工智能技术紧密结合，在更多的领域得到广泛应用，对程序员来说影响至关重要。未来，AIGC技术将继续得到提高，同时也将与人工智能技术紧密结合，在更多的领域得到广泛应用。
关于SD webui 部署运行的一些坑
cxs812760493的博客
05-18 2874
安装完毕后，再打开stable diffusion根目录的webui-user.bat会发现不再要求安装GFPGAN。如果还是无法安装gfpgan的原因是网络问题，就算已经科学上网，并设置为全局，也无法从github上下载源代码，从而导致install失败。因为stable diffusion会在其根目录创建虚拟python环境venv，因此安装方法与github有所不同。解决方法是直接到github下载 GFPGAN 代码到本地，并进行本地安装。不过是在虚拟环境venv下的。
AI绘画专栏stablediffusion SDXL小白入门教程 | 提示词教程
赵KK的博客
05-07 1083
Training models with lowvram not possible: 这点显存还想炼丹？- CUDA out of memory： 炸显存 换启动参数 换显卡。增加细节 配合去除景深，使用精确背景去除工具得到人物蒙版，回送脚本。media_pipe face（脸部边缘检测）重新分布图片色彩（色彩） 使用色彩图素材。插件--脚本--选择One Button。代码语言：javascript。推荐process lasso。softedge（软边缘检测）canny（边缘检测）
2024年最新Stable Diffusion 新手入门教程，安装使用及模型下载
m0_71744960的博客
06-27 2222
打开启动器，一键启动即可，留意随启动器一起打开的命令窗口，等待一会显示http://127.0.0.1:7860就成功启动了，若启动时有什么报错信息都可以在这个窗口看到，可以尝试用启动器的修复功能先修复看看，如果不行先百度下看看，实在解决不了可以进秋葉大佬的QQ频道咨询一下。大名鼎鼎的C站：https://civitai.com/（现在这个网站需要梯子才能打开了，这也是主要的模型下载站，模型下面除了模型作者的演示图也会有网友创作的图，大多带有提示词可以参照）但是为啥生成的都是动漫风格的呢？
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值