什么是SFT（监督微调）（非常详细），零基础入门到精通，看这一篇就够了

agi大模型

已于 2025-01-08 22:23:35 修改

阅读量6.7k

点赞数 31

文章标签：什么是SFT 人工智能

于 2024-11-07 18:46:16 首次发布

本文链接：https://blog.csdn.net/weixin_49892805/article/details/143605130

版权

SFT（监督微调，Supervised Fine-Tuning）是一个在机器学习和自然语言处理领域中常用的术语。它指的是在一个预训练的模型（如大型语言模型）基础上，通过提供标注好的数据进行进一步训练，以使模型在特定任务或领域上表现得更好。

具体步骤如下：

预训练：首先在大规模的无监督数据集上训练一个基础模型。这一步通常涉及大量数据和计算资源，目的是让模型学习语言的基本结构和知识。
数据收集与标注：收集与目标任务相关的特定数据，并对这些数据进行标注。比如，如果目标任务是情感分析，就需要收集和标注大量包含情感信息的句子。
监督微调：将预训练的基础模型在标注好的数据集上进行进一步训练。通过这些标注数据，模型能够学会如何在特定任务上进行预测和推理。
评估与优化：使用验证集评估模型的性能，调整超参数，优化模型，使其在目标任务上达到最佳表现。

应用场景

自然语言理解：如文本分类、情感分析、问答系统等。
图像处理：如图像分类、物体检测等。
推荐系统：如个性化推荐、点击率预测等。

优点

性能提升：通过利用标注数据，模型能更准确地完成特定任务。
灵活性：可以在各种不同的任务和领域中应用，只需相应的标注数据。
高效利用预训练模型：利用大型预训练模型的通用知识，通过微调迅速适应特定任务。

举例

例如，假设有一个预训练好的语言模型GPT-3，你想要它更好地回答法律领域的问题。你可以收集一些法律文档，并对这些文档进行问答标注，然后通过监督微调步骤，使GPT-3在回答法律相关问题时表现得更好。

总的来说，SFT是提升模型在特定任务上的性能的有效方法，广泛应用于各种机器学习和深度学习任务中。

进行监督微调（SFT）涉及以下详细步骤：

步骤 1：预训练模型的选择

首先选择一个预训练的基础模型。常用的预训练模型包括BERT、GPT、T5等。这些模型已经在大规模的无监督数据集上进行了训练，拥有丰富的语言理解能力。

步骤 2：数据收集与标注

收集与目标任务相关的数据，并对数据进行标注。标注数据的质量和数量对微调效果至关重要。比如，如果目标任务是情感分析，则需要收集和标注包含情感信息的句子。

示例：情感分析数据

句子	情感标签
这部电影真是太棒了！	积极
我对这个产品非常失望。	消极
服务还可以，但食物不太好。	中性

步骤 3：数据预处理

对数据进行预处理，包括文本清洗、分词、数据增强等。对于文本数据，常见的预处理步骤包括去除标点符号、将文本转换为小写、去除停用词等。

示例：文本预处理

import re

def preprocess_text(text):
    text = text.lower()
    text = re.sub(r'[^\w\s]', '', text)
    return text

data['sentence'] = data['sentence'].apply(preprocess_text)

步骤 4：数据集划分

将标注好的数据集划分为训练集、验证集和测试集。通常的比例是8:1:1。

from sklearn.model_selection import train_test_split

train_data, temp_data = train_test_split(data, test_size=0.2, random_state=42)
valid_data, test_data = train_test_split(temp_data, test_size=0.5, random_state=42)

步骤 5：加载预训练模型

使用深度学习框架（如TensorFlow或PyTorch）加载预训练模型。

示例：使用Hugging Face Transformers加载BERT模型

from transformers import BertTokenizer, BertForSequenceClassification

tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=3)

步骤 6：数据编码

将文本数据转换为模型可以接受的格式。对于BERT，需要将文本转换为token ID，并生成attention mask。

示例：数据编码

def encode_batch(texts, tokenizer, max_length):
    return tokenizer.batch_encode_plus(
        texts,
        max_length=max_length,
        padding='max_length',
        truncation=True,
        return_tensors='pt'
    )

train_encodings = encode_batch(train_data['sentence'].tolist(), tokenizer, max_length=128)
valid_encodings = encode_batch(valid_data['sentence'].tolist(), tokenizer, max_length=128)

步骤 7：创建数据加载器

将编码后的数据封装到数据加载器中，以便在训练时进行批量处理。

from torch.utils.data import DataLoader, TensorDataset

train_dataset = TensorDataset(train_encodings['input_ids'], train_encodings['attention_mask'], train_data['label'])
valid_dataset = TensorDataset(valid_encodings['input_ids'], valid_encodings['attention_mask'], valid_data['label'])

train_loader = DataLoader(train_dataset, batch_size=32, shuffle=True)
valid_loader = DataLoader(valid_dataset, batch_size=32)

步骤 8：定义训练过程

定义训练过程，包括损失函数、优化器和训练步骤。

from transformers import AdamW, get_linear_schedule_with_warmup
import torch.nn as nn

optimizer = AdamW(model.parameters(), lr=5e-5)
criterion = nn.CrossEntropyLoss()
scheduler = get_linear_schedule_with_warmup(optimizer, num_warmup_steps=0, num_training_steps=len(train_loader) * epochs)

def train(model, train_loader, optimizer, criterion, scheduler):
    model.train()
    for batch in train_loader:
        input_ids, attention_mask, labels = batch
        optimizer.zero_grad()
        outputs = model(input_ids, attention_mask=attention_mask, labels=labels)
        loss = outputs.loss
        loss.backward()
        optimizer.step()
        scheduler.step()

步骤 9：模型评估

在验证集上评估模型的性能。

from sklearn.metrics import accuracy_score

def evaluate(model, valid_loader):
    model.eval()
    preds, labels = [], []
    with torch.no_grad():
        for batch in valid_loader:
            input_ids, attention_mask, label = batch
            outputs = model(input_ids, attention_mask=attention_mask)
            preds.extend(outputs.logits.argmax(dim=1).tolist())
            labels.extend(label.tolist())
    return accuracy_score(labels, preds)

accuracy = evaluate(model, valid_loader)
print(f'Validation Accuracy: {accuracy:.4f}')

步骤 10：模型保存

训练完成后，保存模型以便后续使用。

model.save_pretrained('path/to/save/model')
tokenizer.save_pretrained('path/to/save/tokenizer')

通过上述步骤，可以实现一个监督微调过程，使预训练模型在特定任务上达到最佳表现。每个步骤可以根据具体需求进行调整和优化。

零基础入门AI大模型

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以点击下方链接免费领取🆓