可图Kolors-LoRA风格故事挑战赛
#Datawhale X 魔搭 AI夏令营
可图Kolors-LoRA风格故事挑战赛是阿里云天池举办的创新应用大赛，旨在通过可图Kolors模型微调实现更好的文生图效果，比赛截止为2024年8月31日。赛事链接
赛题任务
- 参赛者需在可图Kolors 模型的基础上训练LoRA 模型，生成无限风格，如水墨画风格、水彩风格、赛博朋克风格、日漫风格…
- 基于LoRA模型生成 8 张图片组成连贯故事，故事内容可自定义；基于8图故事，评估LoRA风格的美感度及连贯性
样例：偶像少女养成日记
基础知识
文生图主要以SD系列基础模型为主，以及在其基础上微调的lora模型和人物基础模型等。
提示词
提示词包括正向提示词和负向提示词，正向提示词一般写上主体描述、细节描述、修饰词、艺术风格等。负向提示词一般写上低画质、模糊、低对比度等。
Lora
Stable Diffusion中的Lora（LoRA）模型是一种轻量级的微调方法，它代表了“Low-Rank Adaptation”，即低秩适应。Lora不是指单一的具体模型，而是指一类通过特定微调技术应用于基础模型的扩展应用。在Stable Diffusion这一文本到图像合成模型的框架下，Lora被用来对预训练好的大模型进行针对性优化，以实现对特定主题、风格或任务的精细化控制。
ComfyUI
ComfyUI 是一个工作流工具，主要用于简化和优化 AI 模型的配置和训练过程。通过直观的界面和集成的功能，用户可以轻松地进行模型微调、数据预处理、图像生成等任务，从而提高工作效率和生成效果。
参考图控制
ControlNet是一种用于精确控制图像生成过程的技术组件。它是一个附加到预训练的扩散模型（如Stable Diffusion模型）上的可训练神经网络模块。扩散模型通常用于从随机噪声逐渐生成图像的过程，而ControlNet的作用在于引入额外的控制信号，使得用户能够更具体地指导图像生成的各个方面（如姿势关键点、分割图、深度图、颜色等）。
代码-Task1
- 进入终端下载baseline文件（大约需要2分钟）
git lfs install
git clone https://www.modelscope.cn/datasets/maochase/kolors.git
下载后进入kolors目录打开baseline文件
- 运行脚本
安装并下载数据集
# 安装必要的库
!pip install simple-aesthetics-predictor
!pip install -v -e data-juicer
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
!pip install -e DiffSynth-Studio
# 下载数据集
from modelscope.msdatasets import MsDataset
ds = MsDataset.load(
'AI-ModelScope/lowres_anime',
subset_name='default',
split='train',
cache_dir="/mnt/workspace/kolors/data"
)#加载"AI-ModelScope/lowers_anime"数据集
#保存数据集中的图片及元数据
import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm
# 创建数据保存路径
os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
#将图像保存并写入标签文件
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
for data_id, data in enumerate(tqdm(ds)):
image = data["image"].convert("RGB")
image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
f.write(json.dumps(metadata))
f.write("\n")
数据处理
#使用 data-juicer 处理数据
#将config写入文件，包括生成图片的大小、输出路径等
data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl' # path to your dataset directory or file
np: 4 # number of subprocess to process your dataset
text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'
export_path: './data/data-juicer/output/result.jsonl'
# process schedule
# a list of several process operators with their arguments
process:
- image_shape_filter:
min_width: 1024
min_height: 1024
any_or_all: any
- image_aspect_ratio_filter:
min_ratio: 0.5
max_ratio: 2.0
any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
file.write(data_juicer_config.strip())
!dj-process --config data/data-juicer/data_juicer_config.yaml
#保存处理好的数据
import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm
texts, file_names = [], []
#将数据保存在训练目录下
os.makedirs("./data/lora_dataset_processed/train", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as file:
for data_id, data in enumerate(tqdm(file.readlines())):
data = json.loads(data)
text = data["text"]
texts.append(text)
image = Image.open(data["image"][0])
image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg"
image.save(image_path)
file_names.append(f"{data_id}.jpg")
data_frame = pd.DataFrame()
data_frame["file_name"] = file_names
data_frame["text"] = texts
data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig")
data_frame
训练模型
#下载模型
from diffsynth import download_models
#使用Kolors中的SDXL-vae-fp16-fix模型
download_models(["Kolors", "SDXL-vae-fp16-fix"])
#开始训练
import os
#调用训练的python文件train_kolors_lora.py,并设置调用预训练模型的路径、lora的秩、alpht、中心裁剪、最大训练次数等
cmd = """
python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \
--pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \
--pretrained_text_encoder_path models/kolors/Kolors/text_encoder \
--pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \
--lora_rank 16 \
--lora_alpha 4.0 \
--dataset_path data/lora_dataset_processed \
--output_path ./models \
--max_epochs 1 \
--center_crop \
--use_gradient_checkpointing \
--precision "16-mixed"
""".strip()
os.system(cmd)
此处对各个参数进行解释：
–pretrained_unet_path ：这个参数指定了预训练的U-Net模型的路径，该模型是Diffusion Model的核心部分，用于图像的生成。这里使用的是Kolors风格的预训练模型。
–pretrained_text_encoder_path ：这个参数指定了预训练文本编码器的路径，该编码器用于将文本描述转换为模型可以理解的向量。这对于基于文本生成图像的模型是必需的。
–pretrained_fp16_vae_path ：这个参数指定了预训练的FP16 VAE（Variational Autoencoder）模型的路径。VAE在Diffusion Models中通常用于图像的压缩和重构，这里使用的是特定版本的FP16（半精度浮点数）模型。
–lora_rank ：这个参数设置了LoRA的秩（rank），即LoRA矩阵的维度。秩的大小影响LoRA模型捕捉风格信息的复杂度和所需的计算资源。
–lora_alpha ：这个参数设置了LoRA的alpha值，它控制LoRA矩阵对原始模型参数的影响程度。alpha值越大，LoRA对模型输出的影响越显著。
–dataset_path ：这个参数指定了训练数据集的路径。数据集应该包含用于训练LoRA模型的图像，这些图像已经过预处理并准备好用于训练。
–output_path ：这个参数指定了训练完成后模型输出（包括LoRA权重）的保存路径。
–max_epochs ：这个参数设置了训练的最大轮次（epoch）为1。在实际应用中，可能需要根据数据集大小和模型复杂度调整这个值以获得更好的训练效果。
–center_crop：这个参数指示在训练前对图像进行中心裁剪。这是一种常见的图像预处理技术，有助于模型专注于图像的中心部分。
–use_gradient_checkpointing：这个参数启用梯度检查点（Gradient Checkpointing）技术，这是一种减少训练时内存消耗的技术，特别适用于大模型或内存受限的环境。
–precision ：这个参数设置了训练的精度模式为“16-mixed”，即混合精度训练。这通常意味着使用FP16（半精度浮点数）进行大部分计算，但在必要时使用FP32（全精度浮点数）以保持数值稳定性。这可以显著加快训练速度并减少内存使用。
#加载模型
from diffsynth import ModelManager, SDXLImagePipeline
from peft import LoraConfig, inject_adapter_in_model
import torch
#加载lora进行微调
def load_lora(model, lora_rank, lora_alpha, lora_path):
lora_config = LoraConfig(
r=lora_rank,
lora_alpha=lora_alpha,
init_lora_weights="gaussian",
target_modules=["to_q", "to_k", "to_v", "to_out"],
)
model = inject_adapter_in_model(lora_config, model)
state_dict = torch.load(lora_path, map_location="cpu")
model.load_state_dict(state_dict, strict=False)
return model
# Load models
model_manager = ModelManager(torch_dtype=torch.float16, device="cuda",
file_path_list=[
"models/kolors/Kolors/text_encoder",
"models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors",
"models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors"
])
pipe = SDXLImagePipeline.from_model_manager(model_manager)
# Load LoRA
pipe.unet = load_lora(
pipe.unet,
lora_rank=16, # This parameter should be consistent with that in your training script.
lora_alpha=2.0, # lora_alpha can control the weight of LoRA.
lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt"
)
#生成图像
#根据提示词的不同，模型将分析提示词并生成图像
torch.manual_seed(0)
image = pipe(
prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("1.jpg")
973
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
