Task 3主要目标是学会微调,首先要了解一下工具,ComfyUI,主要用处是可以细分生成图片的步骤,达到过程可视化,以此进行局部调整,通过碎片化的手段可以进一步修饰图片细节内容。
ComfyUI基本工作原理如下图(来自bilibili:1 万字系统剖析ComfyUI | Stable Diffusion:GUI全盘点 | ComfyUI系统性教程原理篇04 | Ai+建筑_哔哩哔哩_bilibili),通过像搭积木一样的方式层层递进实现目标功能。
图1 ComfyUI基本功能逻辑图
下载脚本代码文件
git lfs install
git clone https://www.modelscope.cn/datasets/maochase/kolors_test_comfyui.git
mv kolors_test_comfyui/* ./
rm -rf kolors_test_comfyui/
mkdir -p /mnt/workspace/models/lightning_logs/version_0/checkpoints/
mv epoch=0-step=500.ckpt /mnt/workspace/models/lightning_logs/version_0/checkpoints/
克隆远程git仓库到本地后,打开ComfyUI代码进行安装程序。
图2 ComfyUI.ipynb画面图
安装完成后进入ComfyUI界面,导入工作流样例后修改正反向关键词即可生成图片。
图3 ComfyUI界面图
不带Lora的工作流样例生成结果:
带Lora的结果图: