目标：通过使用AI助手帮助我们
1、分析代码的主体框架
2、逐行解析代码
在作者上一篇笔记中，为大家详细介绍了如何跑通baseline生成自己希望的图片，那么这篇笔记呢作者就来带大家一起解析读懂这个“又臭又长”的代码
一、了解此次主角-通义千问
1、定义
基于自然语言处理（NLP）技术，具备强大的语言理解和生成能力。它能够进行多种语言任务，例如文本生成、翻译、摘要、问答、对话等
2、主要特点
-
大规模语言模型：通义千问基于海量的文本数据进行训练，具备生成高质量、连贯文本的能力。
-
多任务能力：能够处理不同类型的语言任务，不论是生成新闻报道、撰写技术文档，还是进行客户服务对话。
-
多语言支持：支持多种语言的文本处理，适应全球化需求。
-
集成与定制化：可集成到企业的各种应用中，如智能客服、内容创作、营销推广等，并可以根据特定需求进行定制化训练。
-
语义理解：具备较强的语义理解能力，可以基于用户输入提供有价值的回答或建议。
-
场景应用：在电子商务、社交媒体、金融、教育等多个领域具有广泛应用前景。
3、应用场景
-
企业智能客服：为企业提供自动化的客户服务支持，快速响应客户问题。
-
内容创作：帮助内容创作者生成高质量的文章、报告、广告文案等。
-
市场营销：用于分析市场数据，生成营销策略和报告。
-
教育：可以用于生成学习材料、辅助教学、答疑解惑。
二、精读代码
1、文生图代码框架结构
2、使用通义千问协助读懂代码
<1>、登录通义千问
https://tongyi.aliyun.com/qianwen/?spm=5176.2810346&code=lapnbfugti&utm_content=se_1017928895
然后我们就可以开始使用我们的AI小助手了
<2>、整体解释代码
!pip install simple-aesthetics-predictor
!pip install -v -e data-juicer
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
!pip install -e DiffSynth-Studio
from modelscope.msdatasets import MsDataset
ds = MsDataset.load(
'AI-ModelScope/lowres_anime',
subset_name='default',
split='train',
cache_dir="/mnt/workspace/kolors/data"
)
import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm
os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
for data_id, data in enumerate(tqdm(ds)):
image = data["image"].convert("RGB")
image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
f.write(json.dumps(metadata))
f.write("\n")
data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl' # path to your dataset directory or file
np: 4 # number of subprocess to process your dataset
text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'
export_path: './data/data-juicer/output/result.jsonl'
# process schedule
# a list of several process operators with their arguments
process:
- image_shape_filter:
min_width: 1024
min_height: 1024
any_or_all: any
- image_aspect_ratio_filter:
min_ratio: 0.5
max_ratio: 2.0
any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
file.write(data_juicer_config.strip())
!dj-process --config data/data-juicer/data_juicer_config.yaml
import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm
texts, file_names = [], []
os.makedirs("./data/data-juicer/output/images", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as f:
for line in tqdm(f):
metadata = json.loads(line)
texts.append(metadata["text"])
file_names.append(metadata["image"][0])
df = pd.DataFrame({"text": texts, "file_name": file_names})
df.to_csv("./data/data-juicer/output/result.csv", index=False)
df
from transformers import CLIPProcessor, CLIPModel
import torch
model = CLIPModel.from_pretrained("openai/clip-vit-base-patch32")
processor = CLIPProcessor.from_pretrained("openai/clip-vit-base-patch32")
images = [Image.open(img_path) for img_path in df["file_name"]]
inputs = processor(text=df["text"].tolist(), images=images, return_tensors="pt", padding=True)
outputs = model(**inputs)
logits_per_image = outputs.logits_per_image # this is the image-text similarity score
probs = logits_per_image.softmax(dim=1) # we can take the softmax to get the probabilities
probs
from torch.utils.data import Dataset, DataLoader
class CustomDataset(Dataset):
def __init__(self, df, processor):
self.texts = df["text"].tolist()
self.images = [Image.open(img_path) for img_path in df["file_name"]]
self.processor = processor
def __len__(self):
return len(self.texts)
def __getitem__(self, idx):
inputs = self.processor(text=self.texts[idx], images=self.images[idx], return_tensors="pt", padding=True)
return inputs
dataset = CustomDataset(df, processor)
dataloader = DataLoader(dataset, batch_size=8)
for batch in dataloader:
outputs = model(**batch)
logits_per_image = outputs.logits_per_image
probs = logits_per_image.softmax(dim=1)
print(probs)
import torch
from diffusers import StableDiffusionPipeline
torch.manual_seed(1)
pipe = StableDiffusionPipeline.from_pretrained("CompVis/stable-diffusion-v-1-4", torch_dtype=torch.float16)
pipe = pipe.to("cuda")
prompt = "二次元，一个紫色长发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌，手持话筒"
negative_prompt = "丑陋、变形、嘈杂、模糊、低对比度"
guidance_scale = 4
num_inference_steps = 50
image = pipe(
prompt=prompt,
negative_prompt=negative_prompt,
guidance_scale=guidance_scale,
num_inference_steps=num_inference_steps,
height=1024,
width=1024,
).images[0]
image.save("example_image.png")
image
from PIL import Image
torch.manual_seed(1)
image = pipe(
prompt="二次元，日系动漫，演唱会的观众席，人山人海，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，舞台上衣着华丽的歌星们在唱歌",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("1.jpg")
torch.manual_seed(1)
image = pipe(
prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，露出憧憬的神情",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，色情擦边",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("2.jpg")
torch.manual_seed(2)
image = pipe(
prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，露出憧憬的神情",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，色情擦边",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("3.jpg")
torch.manual_seed(5)
image = pipe(
prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙，对着流星许愿，闭着眼睛，十指交叉，侧面",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，扭曲的手指，多余的手指",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("4.jpg")
torch.manual_seed(0)
image = pipe(
prompt="二次元，一个紫色中等长度头发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("5.jpg")
torch.manual_seed(1)
image = pipe(
prompt="二次元，一个紫色长发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌，手持话筒",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("6.jpg")
torch.manual_seed(7)
image = pipe(
prompt="二次元，紫色长发少女，穿着黑色连衣裙，试衣间，心情忐忑",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("7.jpg")
torch.manual_seed(0)
image = pipe(
prompt="二次元，紫色长发少女，穿着黑色礼服，连衣裙，在台上唱歌",
negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
cfg_scale=4,
num_inference_steps=50, height=1024, width=1024,
)
image.save("8.jpg")
import numpy as np
from PIL import Image
images = [np.array(Image.open(f"{i}.jpg")) for i in range(1, 9)]
image = np.concatenate([
np.concatenate(images[0:2], axis=1),
np.concatenate(images[2:4], axis=1),
np.concatenate(images[4:6], axis=1),
np.concatenate(images[6:8], axis=1),
], axis=0)
image = Image.fromarray(image).resize((1024, 2048))
image
我们将整体baseline代码送入到通义中使其进行整体解释，使用以下话术会使得生成内容更加准确
你是一个优秀的python开发工程师，现在我们需要你帮我们分析这个代码的主体框架，你需要把代码按照工作流分成几部分，用中文回答我的问题。{此处替换前面的代码}
我们等它慢慢生成。。。
这样，我们就能通过通义代码的整体有了个认识
<3>、逐行解释代码
再次调整话术送入通义千问
你是一个优秀的python开发工程师，现在我们需要你帮我们逐行分析这个代码，用中文回答我的问题。{此处替换前面的代码}
等它慢慢生成。。。
ok到这呢我们就对代码的每一行都有了清晰的认识，如果屏幕前的你还有哪段不明白的话，那就继续送入理解嘞，记得应用以下话术哦，提高正确性
我对其中{替换成你的问题}还是不太理解，给我再详细介绍一下三、实战演练
1、数据准备
你是一个文生图专家，我们现在要做一个实战项目，就是要编排一个文生图话剧
话剧由8张场景图片生成，你需要输出每张图片的生图提示词
具体的场景图片
1、女主正在上课
2、开始睡着了
3、进入梦乡，梦到自己站在路旁
4、王子骑马而来
5、两人相谈甚欢
6、一起坐在马背上
7、下课了，梦醒了
8、又回到了学习生活中
生图提示词要求
1、风格为古风
2、根据场景确定是使用全身还是上半身
3、人物描述
4、场景描述
5、做啥事情
例子：
古风，水墨画，一个黑色长发少女，坐在教室里，盯着黑板，深思，上半身，红色长裙将上述提示词打包送入通义
场景1：女主正在上课
提示词：古风，工笔画，一个黑色长发少女，身穿红色长裙，坐在教室里，上半身特写，专注地盯着黑板，手执毛笔，认真听讲。
场景2：开始睡着了
提示词：古风，淡雅色调，一个黑色长发少女，身穿蓝色长袍，坐在桌前，上半身特写，头轻轻垂下，手中毛笔掉落，陷入沉睡之中。
场景3：进入梦乡，梦到自己站在路旁
提示词：古风，山水画风格，一个黑色长发少女，身穿绿色长裙，站在古道旁，全身特写，背景是青石小径与苍翠竹林，目光远眺远方。
场景4：王子骑马而来
提示词：古风，工笔画，一位英俊少年，身穿金黄色战袍，骑着白马缓缓而来，背景是古道与远处的宫殿，全身特写，眼神坚定。
场景5：两人相谈甚欢
提示词：古风，工笔画，一个黑色长发少女，身穿粉色长裙，与一位英俊少年相对而坐，背景是花前月下，两人笑语盈盈，上半身特写，手中各自握着扇子。
场景6：一起坐在马背上
提示词：古风，水墨画，一个黑色长发少女，身穿蓝色长袍，与一位英俊少年并肩坐在马上，全身特写，背景是蜿蜒的小径与繁花似锦的桃林。
场景7：下课了，梦醒了
提示词：古风，淡雅色调，一个黑色长发少女，身穿白色长裙，坐在桌前，上半身特写，从梦中惊醒，手中握着书卷，目光茫然。
场景8：又回到了学习生活中
提示词：古风，工笔画，一个黑色长发少女，身穿紫色长裙，坐在教室里，上半身特写，再次拿起笔墨，凝视着书卷，专注学习。2、训练代码
我们将上述生成的新故事修改baseline中的提示词生成新图片(baseline如何跑通详情可以看这篇博客哦)
然后我们就依次修改八个提示词就ok了
生成的第一个图像如下：
3、测试美学分数
我们可以看到美学分数有了明显的提高
好的，到这里呢本次分享就结束了，希望大家可以从中收获知识，继续提升分数哦，我们下期再见！！！
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
