什么是SFT（监督微调，Supervised Fine-Tuning）

MonkeyKing.sun

于 2024-07-01 11:31:28 发布

阅读量1.4k

点赞数 36

文章标签：模型微调知识库

本文链接：https://blog.csdn.net/sunyuhua_keyboard/article/details/140096441

版权

SFT（监督微调，Supervised Fine-Tuning）是一个在机器学习和自然语言处理领域中常用的术语。它指的是在一个预训练的模型（如大型语言模型）基础上，通过提供标注好的数据进行进一步训练，以使模型在特定任务或领域上表现得更好。

具体步骤如下：

预训练：首先在大规模的无监督数据集上训练一个基础模型。这一步通常涉及大量数据和计算资源，目的是让模型学习语言的基本结构和知识。
数据收集与标注：收集与目标任务相关的特定数据，并对这些数据进行标注。比如，如果目标任务是情感分析，就需要收集和标注大量包含情感信息的句子。
监督微调：将预训练的基础模型在标注好的数据集上进行进一步训练。通过这些标注数据，模型能够学会如何在特定任务上进行预测和推理。
评估与优化：使用验证集评估模型的性能，调整超参数，优化模型，使其在目标任务上达到最佳表现。

应用场景

自然语言理解：如文本分类、情感分析、问答系统等。
图像处理：如图像分类、物体检测等。
推荐系统：如个性化推荐、点击率预测等。

优点

性能提升：通过利用标注数据，模型能更准确地完成特定任务。
灵活性：可以在各种不同的任务和领域中应用，只需相应的标注数据。
高效利用预训练模型：利用大型预训练模型的通用知识，通过微调迅速适应特定任务。

举例

例如，假设有一个预训练好的语言模型GPT-3，你想要它更好地回答法律领域的问题。你可以收集一些法律文档，并对这些文档进行问答标注，然后通过监督微调步骤，使GPT-3在回答法律相关问题时表现得更好。

总的来说，SFT是提升模型在特定任务上的性能的有效方法，广泛应用于各种机器学习和深度学习任务中。

进行监督微调（SFT）涉及以下详细步骤：

步骤 1：预训练模型的选择

首先选择一个预训练的基础模型。常用的预训练模型包括BERT、GPT、T5等。这些模型已经在大规模的无监督数据集上进行了训练，拥有丰富的语言理解能力。

步骤 2：数据收集与标注

收集与目标任务相关的数据，并对数据进行标注。标注数据的质量和数量对微调效果至关重要。比如，如果目标任务是情感分析，则需要收集和标注包含情感信息的句子。

示例：情感分析数据

句子	情感标签
这部电影真是太棒了！	积极
我对这个产品非常失望。	消极
服务还可以，但食物不太好。	中性

步骤 3：数据预处理

对数据进行预处理，包括文本清洗、分词、数据增强等。对于文本数据，常见的预处理步骤包括去除标点符号、将文本转换为小写、去除停用词等。

示例：文本预处理

import re

def preprocess_text(text):
    text = text.lower()
    text = re.sub(r'[^\w\s]', '', text)
    return text

data['sentence'] = data['sentence'].apply(preprocess_text)

步骤 4：数据集划分

将标注好的数据集划分为训练集、验证集和测试集。通常的比例是8:1:1。

from sklearn.model_selection import train_test_split

train_data, temp_data = train_test_split(data, test_size=0.2, random_state=42)
valid_data, test_data = train_test_split(temp_data, test_size=0.5, random_state=42)

步骤 5：加载预训练模型

使用深度学习框架（如TensorFlow或PyTorch）加载预训练模型。

示例：使用Hugging Face Transformers加载BERT模型

from transformers import BertTokenizer, BertForSequenceClassification

tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=3)

步骤 6：数据编码

将文本数据转换为模型可以接受的格式。对于BERT，需要将文本转换为token ID，并生成attention mask。

示例：数据编码

def encode_batch(texts, tokenizer, max_length):
    return tokenizer.batch_encode_plus(
        texts,
        max_length=max_length,
        padding='max_length',
        truncation=True,
        return_tensors='pt'
    )

train_encodings = encode_batch(train_data['sentence'].tolist(), tokenizer, max_length=128)
valid_encodings = encode_batch(valid_data['sentence'].tolist(), tokenizer, max_length=128)

步骤 7：创建数据加载器

将编码后的数据封装到数据加载器中，以便在训练时进行批量处理。

from torch.utils.data import DataLoader, TensorDataset

train_dataset = TensorDataset(train_encodings['input_ids'], train_encodings['attention_mask'], train_data['label'])
valid_dataset = TensorDataset(valid_encodings['input_ids'], valid_encodings['attention_mask'], valid_data['label'])

train_loader = DataLoader(train_dataset, batch_size=32, shuffle=True)
valid_loader = DataLoader(valid_dataset, batch_size=32)

步骤 8：定义训练过程

定义训练过程，包括损失函数、优化器和训练步骤。

from transformers import AdamW, get_linear_schedule_with_warmup
import torch.nn as nn

optimizer = AdamW(model.parameters(), lr=5e-5)
criterion = nn.CrossEntropyLoss()
scheduler = get_linear_schedule_with_warmup(optimizer, num_warmup_steps=0, num_training_steps=len(train_loader) * epochs)

def train(model, train_loader, optimizer, criterion, scheduler):
    model.train()
    for batch in train_loader:
        input_ids, attention_mask, labels = batch
        optimizer.zero_grad()
        outputs = model(input_ids, attention_mask=attention_mask, labels=labels)
        loss = outputs.loss
        loss.backward()
        optimizer.step()
        scheduler.step()

步骤 9：模型评估

在验证集上评估模型的性能。

from sklearn.metrics import accuracy_score

def evaluate(model, valid_loader):
    model.eval()
    preds, labels = [], []
    with torch.no_grad():
        for batch in valid_loader:
            input_ids, attention_mask, label = batch
            outputs = model(input_ids, attention_mask=attention_mask)
            preds.extend(outputs.logits.argmax(dim=1).tolist())
            labels.extend(label.tolist())
    return accuracy_score(labels, preds)

accuracy = evaluate(model, valid_loader)
print(f'Validation Accuracy: {accuracy:.4f}')

步骤 10：模型保存

训练完成后，保存模型以便后续使用。

model.save_pretrained('path/to/save/model')
tokenizer.save_pretrained('path/to/save/tokenizer')

通过上述步骤，可以实现一个监督微调过程，使预训练模型在特定任务上达到最佳表现。每个步骤可以根据具体需求进行调整和优化。