Datawhale AI夏令营第四期魔搭-AIGC文生图方向Task2笔记

最新推荐文章于 2024-10-18 11:21:51 发布

starlight078

最新推荐文章于 2024-10-18 11:21:51 发布

阅读量906

点赞数 16

文章标签：人工智能 AIGC 笔记

本文链接：https://blog.csdn.net/starlight078/article/details/141202279

版权

task2任务

1. 深入理解基础代码

首先，通过对baseline代码的详细分析，理解其工作原理和结构。这将帮助大家在后续任务中更好地利用这些代码。

2. 提升自学习能力

通过学习如何使用AI工具来辅助学习，包括代码阅读和理解的技巧。掌握这些技能将有助于在未来的学习和工作中更高效地应对各种挑战。

3. 探索AI生成图像的能力与局限

AI生成图像（AIGC）：AIGC是通过人工智能技术自动生成内容，AI生成图像是AIGC的一个重要应用。它在摄影、美术等领域带来了颠覆性的变化，但也带来了挑战。
Deepfake技术：利用AI生成的伪造媒体可能会被滥用，对政治、经济和法律领域带来严重影响。
AI生图的历史和发展：从最早的机械画作到现代的深度学习模型，如DALL-E等，AI生成图像技术不断发展。
AI生图的难点和挑战：包括图像生成质量、风格匹配和“AI味”问题（AI生成图像的违和感）。

4. 实际操作

工具介绍：使用Kolors（可图）模型和其他AI生图工具来生成高质量图像。Kolors模型支持中英文，并能生成各种风格的图像。
代码解析：示例代码涉及数据处理、图像生成和处理的步骤，包括如何使用StableDiffusionPipeline生成图像。

这里是代码的详细解释：

1. 安装软件包

# 安装 Data-Juicer 和 DiffSynth-Studio
!pip install simple-aesthetics-predictor
!pip install -v -e data-juicer
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
!pip install -e DiffSynth-Studio

simple-aesthetics-predictor: 安装用于评估图像美学的包。
data-juicer: 安装用于处理数据集的包。
pytorch-lightning: 卸载当前版本（可能是为了避免兼容性问题）。
peft, lightning, pandas, torchvision: 安装模型训练和数据处理所需的库。
DiffSynth-Studio: 安装DiffSynth-Studio包，用于训练和生成图像。

2. 下载数据集

from modelscope.msdatasets import MsDataset
ds = MsDataset.load(
    'AI-ModelScope/lowres_anime',
    subset_name='default',
    split='train',
    cache_dir="/mnt/workspace/kolors/data"
)

从ModelScope仓库下载“lowres_anime”数据集，并将其保存到指定的缓存目录。

3. 生成数据集

import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm
os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
    for data_id, data in enumerate(tqdm(ds)):
        image = data["image"].convert("RGB")
        image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
        metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
        f.write(json.dumps(metadata))
        f.write("\n")

创建目录 用于保存图像和元数据。
将图像转换为RGB格式，保存到指定目录，并生成包含图像路径和描述的元数据文件。

4. 配置和运行 Data-Juicer

data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl'
np: 4

text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'

export_path: './data/data-juicer/output/result.jsonl'

process:
    - image_shape_filter:
        min_width: 1024
        min_height: 1024
        any_or_all: any
    - image_aspect_ratio_filter:
        min_ratio: 0.5
        max_ratio: 2.0
        any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
    file.write(data_juicer_config.strip())
!dj-process --config data/data-juicer/data_juicer_config.yaml

创建 Data-Juicer 配置文件，指定项目名称、数据集路径以及过滤规则。
运行 Data-Juicer，根据指定的条件筛选图像。

5. 处理筛选后的图像

import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm
texts, file_names = [], []
os.makedirs("./data/lora_dataset_processed/train", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as file:
    for data_id, data in enumerate(tqdm(file.readlines())):
        data = json.loads(data)
        text = data["text"]
        texts.append(text)
        image = Image.open(data["image"][0])
        image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg"
        image.save(image_path)
        file_names.append(f"{data_id}.jpg")
data_frame = pd.DataFrame()
data_frame["file_name"] = file_names
data_frame["text"] = texts
data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig")
data_frame

处理筛选后的图像数据，将图像和元数据保存到新目录中。
创建 CSV 文件，包含图像文件名和描述信息。

6. 下载模型

from diffsynth import download_models
download_models(["Kolors", "SDXL-vae-fp16-fix"])

下载预训练模型，这些模型用于图像生成和处理。

7. 训练 LoRA 模型

import os
cmd = """
python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \ 
  --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \ 
  --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \ 
  --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \ 
  --lora_rank 16 \ 
  --lora_alpha 4.0 \ 
  --dataset_path data/lora_dataset_processed \ 
  --output_path ./models \ 
  --max_epochs 1 \ 
  --center_crop \ 
  --use_gradient_checkpointing \ 
  --precision "16-mixed"
""".strip()
os.system(cmd)

执行 LoRA 训练脚本，使用指定的预训练模型和配置参数进行训练。

8. 加载和应用 LoRA 模型

from diffsynth import ModelManager, SDXLImagePipeline
from peft import LoraConfig, inject_adapter_in_model
import torch

def load_lora(model, lora_rank, lora_alpha, lora_path):
    lora_config = LoraConfig(
        r=lora_rank,
        lora_alpha=lora_alpha,
        init_lora_weights="gaussian",
        target_modules=["to_q", "to_k", "to_v", "to_out"],
    )
    model = inject_adapter_in_model(lora_config, model)
    state_dict = torch.load(lora_path, map_location="cpu")
    model.load_state_dict(state_dict, strict=False)
    return model

model_manager = ModelManager(
    torch_dtype=torch.float16,
    device="cuda",
    file_path_list=[
        "models/kolors/Kolors/text_encoder",
        "models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors",
        "models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors"
    ]
)

pipe = SDXLImagePipeline.from_model_manager(model_manager)
pipe.unet = load_lora(
    pipe.unet,
    lora_rank=16,
    lora_alpha=2.0,
    lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt"
)

加载并配置 LoRA 模型，将 LoRA 适配器注入到预训练模型中。
初始化图像生成管道，并应用 LoRA 权重。

9. 生成和保存图像

torch.manual_seed(0)
image = pipe(
    prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50,
    height=1024, width=1024,
)
image.save("1.jpg")

生成图像，根据提供的正向提示词和负向提示词进行生成，并保存为“1.jpg”。

10. 图像拼接

import numpy as np
from PIL import Image
images = [np.array(Image.open(f"{i}.jpg")) for i in range(1, 9)]
image = np.concatenate([
    np.concatenate(images[0:2], axis=1),
    np.concatenate(images[2:4], axis=1),
    np.concatenate(images[4:6], axis=1),
    np.concatenate(images[6:8], axis=1),
], axis=0)
image = Image.fromarray(image).resize((1024, 2048))
image