Datawhale X魔搭 AI夏令营

Datawhale X魔搭AI夏令营 AIGC方向Task03学习笔记

1.活动简介

从零入门AI生图原理&实践 是 Datawhale 2024 年 AI 夏令营第四期的学习活动（ “AIGC”方向），基于魔搭社区 “ 可图Kolors-LoRA风格故事挑战赛 ” 开展的实践学习——

  适合想 入门并实践 AIGC文生图、工作流搭建、LoRA微调 的学习者参与

学习内容提要：从通过代码实现AI文生图逐渐进阶，教程偏重图像工作流、微调、图像优化等思路，最后会简单介绍AIGC应用方向、数字人技术（选学）

2.理论部分

2.1ComfyUI是什么

GUI 是 "Graphical User Interface"（图形用户界面）的缩写。简单来说，GUI 就是你在电脑屏幕上看到的那种有图标、按钮和菜单的交互方式。

ComfyUI 是GUI的一种，是基于节点工作的用户界面，主要用于操作图像的生成技术，ComfyUI 的特别之处在于它采用了一种模块化的设计，把图像生成的过程分解成了许多小的步骤，每个步骤都是一个节点。这些节点可以连接起来形成一个工作流程，这样用户就可以根据需要定制自己的图像生成过程。

ComfyUI核心模块由模型加载器、提示词管理器、采样器、解码器。（具体可点击查看：魔搭官方教程）

2.2ComfyUI图片生成流程

step1选择模型：

从可用的AI列表中选择合适的模型，如Stable Diffusion

step2：构建工作流：

在ComfyUI的图形界面拖拽节点，并将它们连接起来形成一个完整的图像生成或编辑流程。输入必要的参数，如文本提示、图像文件等

step3：执行生成：

运行构建好的工作流观察生成的结果

step4：调整与优化：

如果需要可以根据生成的结果调整参数或修改工作流，直至获得满意的结果

2.3ComfyUI的优势

模块化和灵活性：ComfyUI 提供了一个模块化的系统，用户可以通过拖放不同的模块来构建复杂的工作流程。这种灵活性允许用户根据自己的需求自由组合和调整模型、输入、输出、和其他处理步骤。

可视化界面：ComfyUI 提供了直观的图形界面，使得用户能够更清晰地理解和操作复杂的 AI 模型和数据流。这对没有编程背景的用户特别有帮助，使他们能够轻松构建和管理工作流程。

多模型支持：ComfyUI 支持多个不同的生成模型，用户可以在同一平台上集成和切换使用不同的模型，从而实现更广泛的应用场景。

调试和优化：通过其可视化界面，ComfyUI 使得调试生成过程变得更简单。用户可以轻松地追踪数据流，识别并解决问题，从而优化生成结果。

开放和可扩展：ComfyUI 是一个开源项目，具有高度的可扩展性。开发者可以根据需要编写新的模块或插件，扩展系统功能，并根据项目需求进行定制。

用户友好性：尽管其功能强大，但 ComfyUI 仍然保持了用户友好性，即使对于复杂任务，也能以相对简单的方式完成，使其成为生成式 AI 工作流程管理的有力工具。

3.实践部分

了解了理论就开始实战——20分钟速通安装ComfyUI（在这里，我们依旧选择使用魔搭社区提供的Notebook和免费的GPU算力体验来体验ComfyUI）

step1.下载脚本代码文件

下载安装ComfyUI的执行文件和task1中微调完成Lora文件

git lfs install git clone https://www.modelscope.cn/datasets/maochase/kolors_test_comfyui.git mv kolors_test_comfyui/* ./ rm -rf kolors_test_comfyui/ mkdir -p /mnt/workspace/models/lightning_logs/version_0/checkpoints/ mv epoch=0-step=500.ckpt /mnt/workspace/models/lightning_logs/version_0/checkpoints/

step2.进入ComfyUI的安装文件并一键安装

step3.进入预览界面

当执行到最后一个节点的内容输出了一个访问的链接的时候，复制链接到浏览器中访问

PS：如果链接访问白屏，或者报错，就等一会再访问重试，程序可能没有正常启动完毕

注意：到这里还不能生成图片哦，要完成接下来的操作才可以。

step4.浅尝ComfyUI工作流

4.1不带Lora的工作流样例

Step1：下载工作流脚本

脚本需加载到刚刚安装的comfyUI上

Step2：加载模型，并完成第一次生图

PS：首次点击生成图片会加载资源，时间较长，大家耐心等待

4.2带Lora的工作流样例

1. 这里的Lora是我们Task1微调训练出来的文件

2. 地址是：/mnt/workspace/models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt

3. 大家如有有其他的Lora文件，可以在下面截图Lora文件地址区域更换成自己的地址