DatawhaleX魔搭夏令营 可图Kolors-Lora风格故事挑战赛 task01笔记

一、背景介绍

可图Kolors的故事挑战赛的目标是：在可图Kolors 模型的基础上训练LoRA 模型，生成8张图片，用他们组成连贯故事。风格任选，水墨画风格、水彩风格、赛博朋克风格、日漫风格… 最近一直看奥运会乒乓球比赛，很是热血，想到了以前爱看的热血运动番，所以选定了日漫风格，想画一组主题为：乒乓女将养成记的迷你漫画，致敬奋战在奥运赛场的运动小将们！

二、 成果展示——《兵乓女将养成记》

图一：女生孙莎莎从上初中起就开始对乒乓球感兴趣，在家里看乒乓球比赛直播时，她也会拿着球拍有样学样地笔画着。

图二: 报社团时，孙莎莎报名了乒乓球社，刚开始学习乒乓球的时候，莎莎还不太适应，拿着球拍试了很久。

图三：学习乒乓球之路并不好走，遇到了很多困难，但这些困难反而激起里孙莎莎的斗志，让她更加想要挑战下去。下午的乒乓球馆里，阳光温暖明媚，其他同学都回家了，莎莎暗下决心，一定要练好乒乓球，在一个月后的校赛上拿到好成绩。

图四：莎莎第一次比赛出师不利，输了比赛，她沮丧地坐在地上休息。

图五：莎莎闷闷不乐，晚上独自来到乒乓球馆，寂静的球馆只有她一人，外面的星空灿烂，而莎莎陷入了沉思和自我怀疑，自己真的适合打乒乓球吗？练习付出了很多汗水，但并没有收获，还要坚持下去吗？

图六、经过了内心激烈的挣扎，孙莎莎还是决定跟自己赌一把，继续打下去。幸运的是，她的教练、朋友都支持、鼓励她，孙莎莎的斗志又回来了。

图七：孙莎莎更加投入地参与到训练当中，专注地打磨自己的球季（怎么这一张这么像越前龙马，网球王子乱入乒乓世界？）

图八：功夫不负有心人，孙莎莎在一次比赛中拿到了冠军奖杯，成了学校的传奇!

三、技术实现

本次技术实践中，使用到了Lora——“Low-Rank Adaptation”，即低秩适应。Lora不是指单一的具体模型，而是指一类通过特定微调技术应用于基础模型的扩展应用。在Stable Diffusion这一文本到图像合成模型的框架下，Lora被用来对预训练好的大模型进行针对性优化，以实现对特定主题、风格或任务的精细化控制。

3.1 下载baseline

在terminal里输入如下代码，下载baseline

git lfs install
git clone https://www.modelscope.cn/datasets/maochase/kolors.git

3.2 环境准备

安装Data-Juicer 和 DiffSynth-Studio，前者用于数据处理，并整理训练数据文件。后者DiffSynth-Studio在基础模型上，使用前面整理好的数据文件进行训练微调。

!pip install simple-aesthetics-predictor

!pip install -v -e data-juicer

!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision

!pip install -e DiffSynth-Studio

3.3 下载数据集

from modelscope.msdatasets import MsDataset

ds = MsDataset.load(
    'AI-ModelScope/lowres_anime',
    subset_name='default',
    split='train',
    cache_dir="/mnt/workspace/kolors/data"
)

保存数据集中的图片及元数据

import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm


os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
    for data_id, data in enumerate(tqdm(ds)):
        image = data["image"].convert("RGB")
        image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
        metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
        f.write(json.dumps(metadata))
        f.write("\n")

3.4 用Data-Juicer 处理数据

data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl'  # path to your dataset directory or file
np: 4  # number of subprocess to process your dataset

text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'

export_path: './data/data-juicer/output/result.jsonl'

# process schedule
# a list of several process operators with their arguments
process:
    - image_shape_filter:
        min_width: 1024
        min_height: 1024
        any_or_all: any
    - image_aspect_ratio_filter:
        min_ratio: 0.5
        max_ratio: 2.0
        any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
    file.write(data_juicer_config.strip())

!dj-process --config data/data-juicer/data_juicer_config.yaml

接着保存好处理过的数据

import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm


texts, file_names = [], []
os.makedirs("./data/lora_dataset_processed/train", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as file:
    for data_id, data in enumerate(tqdm(file.readlines())):
        data = json.loads(data)
        text = data["text"]
        texts.append(text)
        image = Image.open(data["image"][0])
        image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg"
        image.save(image_path)
        file_names.append(f"{data_id}.jpg")
data_frame = pd.DataFrame()
data_frame["file_name"] = file_names
data_frame["text"] = texts
data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig")
data_frame

3.5 训练微调

下载可图大模型

from diffsynth import download_models

download_models(["Kolors", "SDXL-vae-fp16-fix"])

查看训练脚本的输入参数

!python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py -h

训练微调，使用DiffSynth-Studio在基础模型上，使用前面整理好的数据文件进行训练微调。

import os

cmd = """
python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \
  --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \
  --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \
  --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \
  --lora_rank 16 \
  --lora_alpha 4.0 \
  --dataset_path data/lora_dataset_processed \
  --output_path ./models \
  --max_epochs 1 \
  --center_crop \
  --use_gradient_checkpointing \
  --precision "16-mixed"
""".strip()

os.system(cmd)

3.6 加载微调之后的模型

from diffsynth import ModelManager, SDXLImagePipeline
from peft import LoraConfig, inject_adapter_in_model
import torch


def load_lora(model, lora_rank, lora_alpha, lora_path):
    lora_config = LoraConfig(
        r=lora_rank,
        lora_alpha=lora_alpha,
        init_lora_weights="gaussian",
        target_modules=["to_q", "to_k", "to_v", "to_out"],
    )
    model = inject_adapter_in_model(lora_config, model)
    state_dict = torch.load(lora_path, map_location="cpu")
    model.load_state_dict(state_dict, strict=False)
    return model


# Load models
model_manager = ModelManager(torch_dtype=torch.float16, device="cuda",
                             file_path_list=[
                                 "models/kolors/Kolors/text_encoder",
                                 "models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors",
                                 "models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors"
                             ])
pipe = SDXLImagePipeline.from_model_manager(model_manager)

# Load LoRA
pipe.unet = load_lora(
    pipe.unet,
    lora_rank=16, # This parameter should be consistent with that in your training script.
    lora_alpha=2.0, # lora_alpha can control the weight of LoRA.
    lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt"
)

3.7 prompt生成图片

torch.manual_seed(0)
image = pipe(
   # prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙",
    prompt="日系动漫，一个短发小女孩在家中客厅，手里拿着乒乓球拍，眼睛充满憧憬地看着电视上的乒乓球比赛，背景是温馨的家庭环境和闪烁的电视屏幕。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("1.jpg")