24年最新Stable Diffusion WebUI从入门到精通教程！

最新推荐文章于 2024-09-12 08:00:48 发布

Ai_绘画小南

最新推荐文章于 2024-09-12 08:00:48 发布

阅读量689

点赞数 28

文章标签： stable diffusion 人工智能 AIGC

本文链接：https://blog.csdn.net/Java_Joker/article/details/140951301

版权

前言

第三十六部分 NVIDIA TensorRT：SD WebUI的终极加速插件

NVIDIA TensorRT是 NVIDIA 提供的一套工具和库，用于增强 TensorRT 的功能和灵活性，使开发者能够更好地优化和部署深度学习模型。它是一个高性能的深度学习推理优化器和运行时库，专门用于加速在 NVIDIA GPU 上运行的推理任务。TensorRT 扩展则提供了额外的自定义选项和高级功能，帮助开发者实现更加精细的优化和硬件加速。通过利用 NVIDIA TensorRT 扩展，Stable Diffusion 的模型可以在推理时显著加速，这使得它在实时应用或大规模生成任务中变得更加实用。因此，TensorRT 扩展插件被认为是 Stable Diffusion 的“终极加速插件”，因为它能够将图像生成过程中的性能提升到一个新的高度。

36.1 安装与配置

**NVIDIA TensorRT扩展的配置要求：**Nvidia显卡(至少8G显存)、16G以上内存、Nvidia驱动程序(537.58版本以上)

驱动安装和更新：

选择你显卡的具体型号和操作系统版本即可。

如果你是游戏玩家你可以选择下载安装GeForce Game Ready驱动程序；如果你像我一样只是用于工作和AI，那下载安装NVIDIA Studio驱动程序就可以了。

接下来是安装Stable-Diffusion-WebUI-TensorRT插件

项目

我们也可以直接通过启动器来安装，搜索TensorRT后安装即可。

安装完成后便能在WebUI中看到TensorRT的标签了。

36.2 基本使用方法

在TensorRT界面的右侧有关于这个插件详细的使用说明，你可以通过它来构建一个定制化的TensorRT加速引擎。

但最简单的，我们直接点击"导出默认引擎"，等待片刻即可。

等待时间取决于你的网速，一般在5-10分钟，构建成功后，便能在WebUI中看到成功的提示。

然后来到"设置-SD-SD"中，刷新"SD Unet"便能看到刚才根据我们所选大模型构建成功的Unet，点击选择它后保存设置即可。

但一旦我们构建了多个引擎之后，每次来这里设置选择很麻烦，所以我们需要将这个界面显示出来。到"设置-用户界面-用户界面"中，在右侧的"快捷设置列表中"输入"sd_unet"后添加并保存。

重载UI后，便能在主界面中方便的选择构建好的引擎了。

然后便可以在生图时候加载和大模型匹配的引擎了，如果你是用默认的方式构建的引擎，它自动构建的生图尺寸范围支持512-768，所以建议尺寸不要大于768*768，批次数量不大于4。另外由于TensorRT插件在加速生图的同时会消耗更多的显存，所以如果你的显卡是8G或以下，构建引擎时候选择默认就行了，因为想生成高于768分辨率的图你的显卡显存也不够。

可以看一下没开TensorRT和开了TensorRT生图速度对比。

36.3 TensorRT自定义引擎

我们默认的引擎预设可以生成512-768分辨率的图片，但如果我们需要加速生成更多的尺寸，就需要进行自定义引擎的设置。

在预设的下拉菜单中，我们可以看到可以选择固定尺寸或具体尺寸范围，选择尺寸便可以让TensorRT在具体某一个尺寸上进行出图速度优化，512、768、1024分别代表SD1.5、2.1、XL模型的最佳绘制尺寸。如果想要出图效率更高可以选择固定尺寸的引擎，如果想要更灵活的出图则可以选择具体范围尺寸的引擎。

具体的尺寸等参数可以在我们选择后具体调配，这里需要说明的是我们可以同时构建多个引擎，比如一个动态引擎和一个静态引擎，当我们生图时候，它会自动为我们选择使用某一个引擎，但默认来说是不能构建两个静态引擎或两个动态引擎，除非你勾选最下面的强制选项。

由于我们在大量跑图时会加大显存的压力，所以我们也可以在启动时候开启xFormers来尝试减少显存的使用。

除了普通生图可以加速外，也可以使用TensorRT来加速高分辨率修复，比如你要把512*512的图高分辨率修复到1024*1024，那你就在构建完512的引擎后再强制构建一个1024的引擎，构建完后你在TensorTR界面的最下方展开你的模型可以看到该模型下有两个TRT引擎了，当你使用该模型的TRT引擎时候，它变会在第一次生成512分辨率的图的时候使用512引擎加速，在高分辨率修复的时候自动使用1024引擎加速。