Datawhale X 魔搭 第四期AI夏令营-AIGC方向task2笔记

1、使用通义辅助精度代码

打开魔搭Notebook，丝滑地启动实例：

把baseline整理成完整的代码块，并做必要的注释。

#第一步，安装Data-Juicer 和 DiffSynth-Studio
!pip install simple-aesthetics-predictor

!pip install -v -e data-juicer

!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision

!pip install -e DiffSynth-Studio

from modelscope.msdatasets import MsDataset

#第二步，下载数据集
ds = MsDataset.load(
    'AI-ModelScope/lowres_anime',
    subset_name='default',
    split='train',
    cache_dir="/mnt/workspace/kolors/data"
)

#保存数据集中的图片及元数据
import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm


os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
    for data_id, data in enumerate(tqdm(ds)):
        image = data["image"].convert("RGB")
        image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
        metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
        f.write(json.dumps(metadata))
        f.write("\n")

#第三步，数据处理，使用data-juicer处理数据
data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl'  # path to your dataset directory or file
np: 4  # number of subprocess to process your dataset

text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'

export_path: './data/data-juicer/output/result.jsonl'

# process schedule
# a list of several process operators with their arguments
process:
    - image_shape_filter:
        min_width: 1024
        min_height: 1024
        any_or_all: any
    - image_aspect_ratio_filter:
        min_ratio: 0.5
        max_ratio: 2.0
        any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
    file.write(data_juicer_config.strip())

!dj-process --config data/data-juicer/data_juicer_config.yaml

#保存处理好的数据
import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm


texts, file_names = [], []
os.makedirs("./data/lora_dataset_processed/train", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as file:
    for data_id, data in enumerate(tqdm(file.readlines())):
        data = json.loads(data)
        text = data["text"]
        texts.append(text)
        image = Image.open(data["image"][0])
        image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg"
        image.save(image_path)
        file_names.append(f"{data_id}.jpg")
data_frame = pd.DataFrame()
data_frame["file_name"] = file_names
data_frame["text"] = texts
data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig")
data_frame

#查看训练脚本的输入参数
!python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py -h

#开始训练
#提示：
#1.在训练命令中填入  --modelscope_model_id xxxxx以及--modelscope_access_token xxxxx后，训练程序会在结束时自动上传模型到ModelScope
#2. 部分参数可根据实际需求调整，例如 lora_rank可以控制LoRA模型的参数量
import os

cmd = """
python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \
  --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \
  --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \
  --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \
  --lora_rank 16 \
  --lora_alpha 4.0 \
  --dataset_path data/lora_dataset_processed \
  --output_path ./models \
  --max_epochs 1 \
  --center_crop \
  --use_gradient_checkpointing \
  --precision "16-mixed"
""".strip()

os.system(cmd)

#加载模型
from diffsynth import ModelManager, SDXLImagePipeline
from peft import LoraConfig, inject_adapter_in_model
import torch


def load_lora(model, lora_rank, lora_alpha, lora_path):
    lora_config = LoraConfig(
        r=lora_rank,
        lora_alpha=lora_alpha,
        init_lora_weights="gaussian",
        target_modules=["to_q", "to_k", "to_v", "to_out"],
    )
    model = inject_adapter_in_model(lora_config, model)
    state_dict = torch.load(lora_path, map_location="cpu")
    model.load_state_dict(state_dict, strict=False)
    return model


# Load models
model_manager = ModelManager(torch_dtype=torch.float16, device="cuda",
                             file_path_list=[
                                 "models/kolors/Kolors/text_encoder",
                                 "models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors",
                                 "models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors"
                             ])
pipe = SDXLImagePipeline.from_model_manager(model_manager)

# Load LoRA
pipe.unet = load_lora(
    pipe.unet,
    lora_rank=16, # This parameter should be consistent with that in your training script.
    lora_alpha=2.0, # lora_alpha can control the weight of LoRA.
    lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt"
)

#生成图像
torch.manual_seed(0)
image = pipe(
    prompt="二次元，一只空的塑料瓶被抛弃入大海中。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("1-1.jpg")

torch.manual_seed(1)
image = pipe(
    prompt="二次元，一只空的塑料瓶随着海浪，漂到了沙滩上。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("2.jpg")

torch.manual_seed(2)
image = pipe(
    prompt="二次元，一只空的塑料瓶在沙滩上，覆盖了薄薄的一层灰尘。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，色情擦边",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("3.jpg")

torch.manual_seed(5)
image = pipe(
    prompt="二次元，一个黑色短发的男孩穿着白色衬衫，在沙滩上捡起了一只空的塑料瓶。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，扭曲的手指，多余的手指",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("4.jpg")

torch.manual_seed(0)
image = pipe(
    prompt="二次元，一只空的塑料瓶和一堆塑料瓶放在一起。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("5.jpg")

torch.manual_seed(1)
image = pipe(
    prompt="二次元，一个黑色短发的男孩穿着白色衬衫，在水池边清洗空的塑料瓶。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("6.jpg")

torch.manual_seed(7)
image = pipe(
    prompt="二次元，一个黑色短发的男孩穿着白色衬衫，用剪刀和空塑料瓶做手工。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("7.jpg")

torch.manual_seed(0)
image = pipe(
    prompt="二次元，一束鲜花插在一个塑料瓶瓶中，放在桌子上。",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("8.jpg")


#合成图像
import numpy as np
from PIL import Image


images = [np.array(Image.open(f"{i}.jpg")) for i in range(1, 9)]
image = np.concatenate([
    np.concatenate(images[0:2], axis=1),
    np.concatenate(images[2:4], axis=1),
    np.concatenate(images[4:6], axis=1),
    np.concatenate(images[6:8], axis=1),
], axis=0)
image = Image.fromarray(image).resize((1024, 2048))
image

打开通义千问，输入需要解读的代码。

获得解答

这段代码可以分为几个主要的部分来理解其工作流程：

1. 环境准备

这一部分主要是安装必要的Python包和依赖项。

这里安装了几个包，包括 simple-aesthetics-predictor, data-juicer, DiffSynth-Studio 等，同时还卸载了旧版本的 pytorch-lightning 并安装了一些其他的依赖包。

2. 数据集下载与预处理

这一部分主要负责下载数据集并进行预处理。

这里下载了一个名为 lowres_anime 的数据集，并从中提取图像，将其转换为RGB格式并保存到磁盘上，同时将每个图像的路径和相关的文本描述写入一个JSONL文件中。

3. 数据处理

接下来是对数据进行进一步的处理，比如过滤不符合要求的图像。

这部分首先定义了一个配置文件来指导 data-juicer 对数据集进行过滤和处理。之后通过 dj-process 命令来执行这些处理任务。处理完毕后，将处理过的图像和对应的文本描述保存到新的CSV文件中。

4. 模型训练

接下来是训练 LoRA 模型的部分。

这里使用了 DiffSynth-Studio 中的训练脚本来训练一个 LoRA 模型。该模型是在预训练模型的基础上进行微调，以适应特定的任务。

5. 模型加载与图像生成

这一部分负责加载训练好的模型，并使用它来生成图像。

这部分首先定义了一个函数 load_lora 用来加载训练好的 LoRA 模型，接着使用这个函数加载模型，并生成多张图像。

6. 图像合成

最后一步是将生成的多张图像合成一张大图。

这里将之前生成的8张图像按顺序拼接在一起形成一张较大的图像。

综上所述，这段代码实现了从数据集下载、预处理、处理、模型训练到图像生成和合成的完整工作流程。

2、文生图实践

拟定一个故事梗概，用通义创建提示词。

执行Task1的baseline，在代码中修改提示词。

查看生成的图片，如果不满意，可以微调，再生成，最终获得满意的图片后，合成大图。

结果展示：

1、一只空的塑料瓶子被抛弃在海里

2、空的塑料瓶子漂到了沙滩上

3、一个男孩看到了沙滩上的空的塑料瓶子

4、他伸出一只手把瓶子捡起来了

​​​​​​​

5、男孩拿着空塑料瓶，陷入了沉思

​​​​​​​

6、突然他似乎想到了什么，开始仔细清洗这个瓶子

7、男孩拿起画笔在塑料瓶上画画

8、塑料瓶变成了一个精美的工艺品