一、文生图的基础知识
1.1概念介绍
文生图是一种基于深度学习的生成技术，即能够理解给定的文本语义，将其转化成为视觉信息，并且生成具有文本给定特征信息的图像。
1.2技术历史与背景
文生图的技术核心结合了NLP(自然语言处理)和CV(计算机视觉)的优质算法，其发展追溯到20世纪60-90年代，当时的技术因为算力有限，只局限于依赖规则和模板匹配，生成简单图像。21世纪10年代，随着GANs(生成对抗网络)的出现，文生图技术得到了极快发展，进行对抗性训练的模型有Deep Convolutional GANs(DCGANs)、stackGANs等等，图像的质量也得到极大提升。从2020开始，大规模预训练模型成为主导，CLIP、Stable Diffusion、DALL·E等模型在文本与图像的高度一致性、图像的创意性和细节表现能力上发挥作用，使得文生图技术逐渐拥有社会影响力。
1.3生图过程
1.3.1 输入提示词和参考图像(可选)
训练过程首先接收输入的提示词（文本描述）和可选的参考图像。提示词是用户提供的文本描述，正向prompts定义了期望生成图像的内容和风格，负向prompts则定义了图像中不应该出现的特征信息。参考图像则可以帮助模型更好地理解视觉特征，但并非必需。
1.3.2 Lora模型训练
在这个阶段，LoRA（Low-Rank Adaptation）技术被用于微调预训练模型。LoRA通过引入低秩矩阵分解，减少了模型的参数数量，允许模型更高效地适应新的任务。在训练过程中，模型将根据输入的提示词与可能的参考图像进行调整，以生成符合要求的图像，对任务有精细化的控制。
1.3.3 生成图片
使用经过训练之后的Lora模型进行训练，输入新的提示词，模型将根据提示词生成对应特征的图像。
二、运行Baseline&理解代码框架
2.1环境配置
开通阿里云PAI-DSWhttps://free.aliyun.com/?productCode=learn获取算力
在魔搭平台授权并且创建实例https://www.modelscope.cn/my/mynotebook/authorization
创建实例
启动实例
2.2运行Baseline代码
2.1.1下载Baseline文件
打开终端并复制代码运行
git lfs install
git clone https://www.modelscope.cn/datasets/maochase/kolors.git
2.2.2运行Baseline文件
2.3代码整体理解
2.3.1安装环境
安装一些深度学习和数据处理工具库
simple-aesthetics-predictor---图像美学预测库，评估图像的美学质量
data-juicer---数据处理和增强库，数据清洗、预处理和增强
pytorch-lightning---提供高层次的API，简化PyTorch训练流程
peft lightning---优化模型的参数和高效微调
torchvision---提供常用的数据集、模型框架和图像处理工具
DiffSynth-Studio---高效微调训练工具
!pip install simple-aesthetics-predictor
!pip install -v -e data-juicer
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
!pip install -e DiffSynth-Studio
2.3.2下载数据集
这里使用MsDataset.load的方法，加载了AI-ModelScope/lowres_anime的train部分，使用的是默认子集，数据切片split表示加载训练集数据，cache_dir表示数据缓存目录
from modelscope.msdatasets import MsDataset
ds = MsDataset.load(
'AI-ModelScope/lowres_anime',
subset_name='default',
split='train',
cache_dir="/mnt/workspace/kolors/data"
)
os.makedirs用于存储处理后的图像和元数据目录，exist_ok=True保证如果目录存在则不报错，之后将图像转换为RGB格式确保一致性，保存在对应的目录中。metadata创建一个字典，包含文本描述和图像路径，最后将元数据以json格式写入文件。
import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm
os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
for data_id, data in enumerate(tqdm(ds)):
image = data["image"].convert("RGB")
image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
f.write(json.dumps(metadata))
f.write("\n")
2.3.3处理并保存数据
data_juicer_config.yaml是一个数据处理的配置文件，定义有全局参数、数据集路径、处理流程等设置
dj-process是一个数据处理命令，使用了data_juicer_config.yaml配置文件，这行命令过滤不符合条件的图片，生成一个result.jsonl文件
读取result.jsonl文件，获取处理后图像的路径和文本描述，将图像保存到指定路径中
创建metadata.csv文件存储每个图像的文件名字和文本描述
data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl' # path to your dataset directory or file
np: 4 # number of subprocess to process your dataset
text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'
export_path: './data/data-juicer/output/result.jsonl'
# process schedule
# a list of several process operators with their arguments
process:
- image_shape_filter:
min_width: 1024
min_height: 1024
any_or_all: any
- image_aspect_ratio_filter:
min_ratio: 0.5
max_ratio: 2.0
any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
file.write(data_juicer_config.strip())
!dj-process --config data/data-juicer/data_juicer_config.yaml
import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm
texts, file_names = [], []
os.makedirs("./data/lora_dataset_processed/train", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as file:
for data_id, data in enumerate(tqdm(file.readlines())):
data = json.loads(data)
text = data["text"]
texts.append(text)
image = Image.open(data["image"][0])
image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg"
image.save(image_path)
file_names.append(f"{data_id}.jpg")
data_frame = pd.DataFrame()
data_frame["file_name"] = file_names
data_frame["text"] = texts
data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig")
data_frame
2.3.4Lora模型微调&下载模型
Kolors为预训练U-Net模型和文本编码器，SDXL-vae-fp16-fix为训练的VAE模型
训练脚本为‘train_kolors_lora.py’,用于Lora模型的训练，结合预训练的U-Net和文本编辑器
# 下载模型
from diffsynth import download_models
download_models(["Kolors", "SDXL-vae-fp16-fix"])
#模型训练
import os
cmd = """
python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \
--pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \
--pretrained_text_encoder_path models/kolors/Kolors/text_encoder \
--pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \
--lora_rank 16 \
--lora_alpha 4.0 \
--dataset_path data/lora_dataset_processed \
--output_path ./models \
--max_epochs 1 \
--center_crop \
--use_gradient_checkpointing \
--precision "16-mixed"
""".strip()
os.system(cmd)LoraConfig定义Lora的参数，包括Lora的秩(决定模型复杂度)，缩放系数lora_alpha(调整权重)，init_lora_weights(初始化lora权重，采用高斯分布)，target_modules(应用的Lora模块)
后续注入Lora到模型里并加载权重
模型加载用的精度为torch.float16，运行设备为cuda。用SDXLImagePipeline生成管道封装U-Net，文本编码器和VAE模型，用于生图任务
最后加载Lora到模型中，这里的参数与训练时的参数一致
from diffsynth import ModelManager, SDXLImagePipeline
from peft import LoraConfig, inject_adapter_in_model
import torch
def load_lora(model, lora_rank, lora_alpha, lora_path):
lora_config = LoraConfig(
r=lora_rank,
lora_alpha=lora_alpha,
init_lora_weights="gaussian",
target_modules=["to_q", "to_k", "to_v", "to_out"],
)
model = inject_adapter_in_model(lora_config, model)
state_dict = torch.load(lora_path, map_location="cpu")
model.load_state_dict(state_dict, strict=False)
return model
# Load models
model_manager = ModelManager(torch_dtype=torch.float16, device="cuda",
file_path_list=[
"models/kolors/Kolors/text_encoder",
"models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors",
"models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors"
])
pipe = SDXLImagePipeline.from_model_manager(model_manager)
# Load LoRA
pipe.unet = load_lora(
pipe.unet,
lora_rank=16, # This parameter should be consistent with that in your training script.
lora_alpha=2.0, # lora_alpha can control the weight of LoRA.
lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt"
)这个管道设置了正向提示词，负向提示词，分类自由引导强度为4，说明生成图像对提示词依赖较弱，具有多样性，同时推理数量为50，图片长宽像素为1024
torch.manual_seed(0)
image = pipe(
prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("1.jpg")
经历完这些步骤就可以完整的生成你想要的图片，还可以修改提示词等参数来生成属于你自己的一套图片。
485
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
