Datawhale X 魔搭 AI夏令营-task02笔记

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

---

前言

任务介绍：

1.精读baseline——从零入门AI生图（使用AI工具）
2.实战演练一一基于话剧的连环画制作

---

一、使用AI精读baseline

1.你是一个优秀的python开发工程师，现在我们需要你帮我们分析这个代码的主体框架，你需要把代码按照工作流分成几部分，用中文回答我的问题。
这个Python代码可以分为以下几个主要部分，每个部分代表一个独立的工作流程：

1. 环境设置与依赖安装

!pip install simple-aesthetics-predictor
!pip install -v -e data-juicer
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
!pip install -e DiffSynth-Studio

工作流程： 安装所需的Python包和库。这是代码执行的准备工作，确保所需的依赖项已经安装。

2. 数据加载与预处理

from modelscope.msdatasets import MsDataset

ds = MsDataset.load(
    'AI-ModelScope/lowres_anime',
    subset_name='default',
    split='train',
    cache_dir="/mnt/workspace/kolors/data"
)

import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm

os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
    for data_id, data in enumerate(tqdm(ds)):
        image = data["image"].convert("RGB")
        image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
        metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
        f.write(json.dumps(metadata))
        f.write("\n")

工作流程： 加载数据集并将其处理为可用的格式。数据集中的图像被转换和保存，并生成相应的元数据文件。

3. 数据过滤与处理

data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl'
np: 4
text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'
export_path: './data/data-juicer/output/result.jsonl'

process:
    - image_shape_filter:
        min_width: 1024
        min_height: 1024
        any_or_all: any
    - image_aspect_ratio_filter:
        min_ratio: 0.5
        max_ratio: 2.0
        any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
    file.write(data_juicer_config.strip())

!dj-process --config data/data-juicer/data_juicer_config.yaml

工作流程： 使用Data Juicer工具对图像数据进行过滤和预处理。此步骤通过配置文件指定处理规则，并将结果保存到指定路径。

4. 数据整理与导出

import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm

texts, file_names = [], []
os.makedirs("./data/data-juicer/output/images", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as f:
    for line in tqdm(f):
        metadata = json.loads(line)
        texts.append(metadata["text"])
        file_names.append(metadata["image"][0])

df = pd.DataFrame({"text": texts, "file_name": file_names})
df.to_csv("./data/data-juicer/output/result.csv", index=False)

df

工作流程： 将处理后的数据整理成结构化的格式，并保存为CSV文件。此步骤主要是为了后续的分析和使用准备数据。

5. 模型推理与相似度计算

from transformers import CLIPProcessor, CLIPModel
import torch

model = CLIPModel.from_pretrained("openai/clip-vit-base-patch32")
processor = CLIPProcessor.from_pretrained("openai/clip-vit-base-patch32")

images = [Image.open(img_path) for img_path in df["file_name"]]
inputs = processor(text=df["text"].tolist(), images=images, return_tensors="pt", padding=True)

outputs = model(**inputs)
logits_per_image = outputs.logits_per_image  # this is the image-text similarity score
probs = logits_per_image.softmax(dim=1)  # we can take the softmax to get the probabilities

probs

工作流程： 使用CLIP模型进行图像和文本的相似度计算，并输出每个图像与文本的匹配概率。这部分是核心的推理过程，利用预训练模型处理输入的数据。

6. 自定义数据集与批量处理

from torch.utils.data import Dataset, DataLoader

class CustomDataset(Dataset):
    def __init__(self, df, processor):
        self.texts = df["text"].tolist()
        self.images = [Image.open(img_path) for img_path in df["file_name"]]
        self.processor = processor

    def __len__(self):
        return len(self.texts)

    def __getitem__(self, idx):
        inputs = self.processor(text=self.texts[idx], images=self.images[idx], return_tensors="pt", padding=True)
        return inputs

dataset = CustomDataset(df, processor)
dataloader = DataLoader(dataset, batch_size=8)

for batch in dataloader:
    outputs = model(**batch)
    logits_per_image = outputs.logits_per_image
    probs = logits_per_image.softmax(dim=1)
    print(probs)

工作流程： 定义自定义的数据集类，并使用DataLoader进行批量处理。这部分有助于更高效地处理大量数据，尤其在训练或推理阶段。

7. 图像生成

import torch
from diffusers import StableDiffusionPipeline

torch.manual_seed(1)
pipe = StableDiffusionPipeline.from_pretrained("CompVis/stable-diffusion-v-1-4", torch_dtype=torch.float16)
pipe = pipe.to("cuda")

prompt = "二次元，一个紫色长发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌，手持话筒"
negative_prompt = "丑陋、变形、嘈杂、模糊、低对比度"
guidance_scale = 4
num_inference_steps = 50

image = pipe(
    prompt=prompt,
    negative_prompt=negative_prompt,
    guidance_scale=guidance_scale,
    num_inference_steps=num_inference_steps,
    height=1024,
    width=1024,
).images[0]

image.save("example_image.png")
image

工作流程： 使用Stable Diffusion模型生成图像，并保存生成的结果。这里通过提供文本描述（prompt）来生成符合描述的图像。

8. 图像拼接与展示

import numpy as np
from PIL import Image

images = [np.array(Image.open(f"{i}.jpg")) for i in range(1, 9)]
image = np.concatenate([
    np.concatenate(images[0:2], axis=1),
    np.concatenate(images[2:4], axis=1),
    np.concatenate(images[4:6], axis=1),
    np.concatenate(images[6:8], axis=1),
], axis=0)
image = Image.fromarray(image).resize((1024, 2048))
image

工作流程： 对生成的图像进行拼接并展示。将多张图像组合成一个大图，以便于视觉比较和展示效果。

---

这个代码的主体框架涵盖了数据处理、模型推理、图像生成与后处理等多个环节，是一个完整的AI工作流。每个部分独立运作并连接在一起，最终实现从数据处理到图像生成的全过程。
你是一个文生图专家，我们现在要做一个实战项目，就是要编排一个文生图话剧
话剧由8张场景图片生成，你需要输出每张图片的生图提示词

具体的场景图片
1、女主正在上课
2、开始睡着了
3、进入梦乡，梦到自己站在路旁
4、王子骑马而来
5、两人相谈甚欢
6、一起坐在马背上
7、下课了，梦醒了
8、又回到了学习生活中

生图提示词要求
1、风格为古风
2、根据场景确定是使用全身还是上半身
3、人物描述
4、场景描述
5、做啥事情

例子：
古风，水墨画，一个黑色长发少女，坐在教室里，盯着黑板，深思，上半身，红色长裙

以下是根据你的要求编排的8张场景图片的生图提示词：

场景1：女主正在上课

提示词：
古风，水墨画，一个黑色长发少女，坐在古代学堂里，手中拿着书卷，专注地听着老师讲课，上半身，淡绿色长裙，书桌前摆放着几卷竹简，背后是木质屏风。

场景2：开始睡着了

提示词：
古风，水墨画，一个黑色长发少女，坐在古代学堂里，双眼微闭，头微微低下，似乎有些困倦，手中依然拿着书卷，上半身，淡绿色长裙，书桌前的竹简已经半展开。

场景3：进入梦乡，梦到自己站在路旁

提示词：
古风，水墨画，一个黑色长发少女，站在古老的石板路旁，四周是青翠的竹林和花丛，阳光透过竹叶洒下斑驳的光影，全身，白色飘逸的长裙，神情恬静，仿佛置身于仙境。

场景4：王子骑马而来

提示词：
古风，水墨画，一个英俊的王子，穿着深蓝色锦袍，骑着一匹白色骏马而来，马蹄轻踏在石板路上，路旁站着黑色长发的少女，全身，少女眼中透出惊讶和喜悦。

场景5：两人相谈甚欢

提示词：
古风，水墨画，王子和黑色长发少女并肩站在石板路上，互相微笑交谈，王子身着深蓝色锦袍，少女身穿白色长裙，身后是绽放的花丛和翠绿的竹林，上半身，两人神情愉悦。

场景6：一起坐在马背上

提示词：
古风，水墨画，黑色长发少女坐在王子的白色骏马上，王子稳稳地握着缰绳，少女身穿白色长裙，轻轻倚靠在王子身旁，全身，马儿在古道上缓缓前行，背景是延绵的竹林和远山。

场景7：下课了，梦醒了

提示词：
古风，水墨画，黑色长发少女坐在古代学堂里，突然睁开双眼，抬起头，神情略带迷茫，上半身，淡绿色长裙，书卷依旧握在手中，教室里的竹简和木质屏风清晰可见。

场景8：又回到了学习生活中

提示词：
古风，水墨画，一个黑色长发少女，重新专注于书卷，认真学习，教室里安静而宁静，上半身，淡绿色长裙，背景是木质屏风和书桌上的竹简，少女眼中满是坚定的神情。

这些提示词涵盖了场景的风格、人物描述、场景环境以及角色正在进行的活动，适合用于生成符合古风水墨画风格的场景图片。

二、实验结果

---

总结

这是用chatgpt-4o生成的文本提示词。