魔乐+SwanLab: 快速可视化跟踪模型微调

最新推荐文章于 2025-03-15 16:37:17 发布
最新推荐文章于 2025-03-15 16:37:17 发布
阅读量884 收藏 12
点赞数 27
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2401_87243659/article/details/144455951
版权

SwanLab介绍

SwanLab是一款开源、轻量级的AI实验跟踪工具，提供了一个跟踪、比较、和协作实验的平台，旨在加速AI研发团队100倍的研发效率。其提供了友好的API和漂亮的界面，结合了超参数跟踪、指标记录、在线协作、实验链接分享、实时消息通知等功能，让您可以快速跟踪ML实验、可视化过程、分享给同伴。借助SwanLab，科研人员可以沉淀自己的每一次训练经验，与合作者无缝地交流和协作，机器学习工程师可以更快地开发可用于生产的模型。

本教程将介绍如何使用SwanLab来可视化跟踪魔乐社区上的模型微调，帮助大家了解SwanLab的能力。感兴趣的朋友也可以亲自上手感受一下。

友情链接：

2 微调代码

如果了解了上述的对应机制，那么就可以跑一个简单的微调代码了，该代码参考了魔乐社区的教程文档，稍作调整，可以对比NVIDIA显卡的结果。

2.1 概述

魔乐社区（Modelers.cn）是一个为人工智能开发者及爱好者打造的社区，提供工具链、数据集、模型和应用等AI领域生产要素的托管及展示服务和支撑系统。目前，魔乐社区已支持openMind Library。该工具通过简单的API接口，帮助开发者完成模型预训练、微调、推理等流程。同时，openMind Library原生兼容PyTorch 和 MindSpore 等主流框架，原生支持昇腾NPU处理器。openMind Library可以和PEFT、DeepSpeed等三方库配合使用，来提升模型微调效率。

2.2 环境配置

2.2.1 直接安装环境

如果是昇腾AI卡系列的话，配置环境前需要先安装驱动等设备，具体可以参考软件安装-CANN商用版8.0.RC3开发文档-昇腾社区。

驱动安装&验证

首先得确定有NPU卡和NPU相关驱动，驱动是8.0.RC3.beta1，如果没安装可以参考上面软件安装的链接查看。

安装好后的验证方法是运行下面的命令，该命令作用与nvidia-smi类似，这里是查看NPU的状态和性能

npu-smi info

可以看到如下信息的话就表示驱动已经安装完成了，左侧是安装成功后运行代码后的结果，右侧是每一部分的含义

安装好驱动之后就可以配置环境了，本次微调代码使用PyTorch框架，昇腾AI应用使能套件中自带了基于PyTorch框架的各类函数，因此正常安装就行。

安装命令如下：

 
# 下载PyTorch安装包
wget https://download.pytorch.org/whl/cpu/torch-2.4.0-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
# 下载torch_npu插件包
wget https://gitee.com/ascend/pytorch/releases/download/v6.0.rc3-pytorch2.4.0/torch_npu-2.4.0-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
# 安装命令
pip3 install torch-2.4.0-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
pip3 install torch_npu-2.4.0-cp311-cp311-manylinux_2_17_aarch64.manylinux2014_aarch64.whl
# 安装openMind Library
pip install openmind[pt]
# 安装SwanLab
pip install swanlab

注意以下几点：

  1. 可以使用镜像源来安装环境，不然会很浪费时间，可以使用清华源：
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple name
  1. 魔乐社区的模型支持PyTorch和MindSpore两种不同框架。配置环境时，可根据需要选择其中一个框架进行配置。
2.2.2 docker环境安装（推荐）

魔乐社区官方库也提供了模型的docker环境。

推荐通过点击模型测试部分（下图红框）找到docker的链接，通过docker来拉起拉起环境。下面介绍docker环境的搭建教程。

首先得确定有NPU卡和NPU相关驱动，驱动是8.0.RC3.beta1，如果没安装可以参考CANN官方安装教程

完成安装后检测方法是运行

npu-smi info

可以看到如下信息的话就表示驱动已经安装完成了。

接下来使用如下命令创建一个装好openmind环境的容器，这样可以省去大量安装环境的时间：

docker run \
    --name openmind \
    --device /dev/davinci0 \    # 指定NPU 0号设备
    --device /dev/davinci_manager \
    --device /dev/devmm_svm \
    --device /dev/hisi_hdc \
    -v /usr/local/dcmi:/usr/local/dcmi \
    -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \
    -v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ \
    -v /etc/ascend_install.info:/etc/ascend_install.info \
    -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \
    -tid registry.modelers.cn/base_image/openmind:openeuler-python3.10-cann8.0.rc3.beta1-pytorch2.1.0-openmind0.9.1 bash

这将在后台开启一个名为openmind容器。使用如下命令可进入到容器当中

 docker exec -it openmind bash

出现如下界面即表示进入到容器当中

最后在docker中运行如下命令安装SwanLab即可完成环境安装。

# 安装swanlab命令
pip install swanlab

2.3 数据集处理

OmDataset.load_dataset()方法目前支持下载的数据集格式如下：

  • parquet
  • json或者jsonl
  • tar.gz
  • csv
  • 下载python脚本加载魔乐社区数据集
  • 下载python脚本加载三方站点数据集
from openmind import OmDataset
from openmind import AutoTokenizer
 
### 准备数据集
dataset = OmDataset.load_dataset("AI_Connect/glue", "cola")
 
### 结果
"""
DatasetDict({
    train: Dataset({
        features: ['sentence', 'label', 'idx'],
        num_rows: 8551
    })
    validation: Dataset({
        features: ['sentence', 'label', 'idx'],
        num_rows: 1043
    })
    test: Dataset({
        features: ['sentence', 'label', 'idx'],
        num_rows: 1063
    })
})
"""
 
### 加载分词器
tokenizer = AutoTokenizer.from_pretrained("PyTorch-NPU/bert_base_cased")
 
### 处理数据集
def tokenize_function(examples):
    return tokenizer(examples["sentence"],truncation=True,padding="max_length",max_length=512)
 
### 训练数据封装
tokenized_datasets = dataset.map(tokenize_function, batched=True)
 
# 训练数据+验证数据，验证发生在每个epoch之后
small_train_dataset = tokenized_datasets["train"].shuffle(seed=42)
small_eval_dataset = tokenized_datasets["validation"].shuffle(seed=42)

2.4 加载模型

和transformers使用差不多，分别加载模型和分词器

from openmind import AutoTokenizer
from openmind import AutoModelForSequenceClassification  ## 做分类任务
 
 
### 加载分词器
tokenizer = AutoTokenizer.from_pretrained("PyTorch-NPU/bert_base_cased")
 
### 加载模型
model = AutoModelForSequenceClassification.from_pretrained("PyTorch-NPU/bert_base_cased", num_labels=2)  # 二分类任务

2.5 训练参数配置

创建一个TrainingArguments类，其中包含可以调整的所有超参数以及不同的训练选项。

from openmind import TrainingArguments
 
### 参数初始化
# 指定保存训练检查点的路径
training_args = TrainingArguments(logging_steps=1,
                                  output_dir="test_trainer",
                                  evaluation_strategy="epoch",
                                  half_precision_backend="auto",  # auto:自动选择合适的混合精度训练后端；apex：英伟达的 ；cpu_amp：在CPU上运行
                                  per_device_train_batch_size=4,
                                  optim="adamw_torch",
                                  learning_rate=2e-5)

2.6 评估参数设置

Trainer在训练过程中不会自动评估模型性能，需要向Trainer传递一个函数来计算和展示指标。

import numpy as np
from openmind import metrics
 
### 配置评估参数
metric = metrics.Accuracy()
 
 
def compute_metrics(eval_pred):
    logits, labels = eval_pred
    preds = np.argmax(logits, axis=-1)
    return metric.compute(preds=preds, labels=labels)

2.7 可视化工具配置

swanlab支持记录openMind Library。能够在线/离线查看训练日志。SwanLab支持openMind Library通过callback调用，调用代码可参考后文。

关于SwanLab的使用方法可以参考SwanLab官方文档-快速开始

如果提示登录swanlab，可以在官网完成注册后，使用获取API KEY找到对应的登陆密钥并粘贴，这样将能够使用云上看版随时查看训练过程与结果。

from openmind import Trainer
from swanlab.integration.transformers import SwanLabCallback
 
### 使用swanlab监测
swanlab_config = {
    "dataset": "glue",
    "fp16_backend":"auto",
    "datacollator":"transformer"
}
swanlab_callback = SwanLabCallback(
    project="new_qwen2.5-7B-finetune",
    experiment_name="跑的官方例子的微调",
    description="这个是使用transformers的datacollator封装函数",
    workspace=None,
    config=swanlab_config,
)
 
### 创建训练器并且启动训练
trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=small_train_dataset,
    eval_dataset=small_eval_dataset,
    compute_metrics=compute_metrics,
    callbacks=[swanlab_callback],
)
 
trainer.train()
 
### 保存模型
output_dir="./output"
final_save_path = join(output_dir)
trainer.save_model(final_save_path)

2.8 全过程代码

from openmind import OmDataset
from openmind import AutoTokenizer
from openmind import AutoModelForSequenceClassification
from openmind import TrainingArguments
from openmind import metrics
import numpy as np
from openmind import Trainer
from swanlab.integration.transformers import SwanLabCallback
from os.path import join
 
 
### 准备数据集
dataset = OmDataset.load_dataset("AI_Connect/glue", "cola")
 
### 加载分词器
tokenizer = AutoTokenizer.from_pretrained("PyTorch-NPU/bert_base_cased")
 
 
### 处理数据集
def tokenize_function(examples):
    # 填充
    return tokenizer(examples["sentence"],truncation=True,padding="max_length",max_length=512)
 
 
tokenized_datasets = dataset.map(tokenize_function, batched=True)
 
# 减少数据量
small_train_dataset = tokenized_datasets["train"].shuffle(seed=42)
small_eval_dataset = tokenized_datasets["validation"].shuffle(seed=42)
 
 
### 加载模型
model = AutoModelForSequenceClassification.from_pretrained("PyTorch-NPU/bert_base_cased", num_labels=2)
 
### 参数初始化
# 指定保存训练检查点的路径
training_args = TrainingArguments(logging_steps=1,
                                  output_dir="test_trainer",
                                  evaluation_strategy="epoch",
                                  half_precision_backend="auto",  # auto:自动选择合适的混合精度训练后端；apex：英伟达的 ；cpu_amp：在CPU上运行
                                  per_device_train_batch_size=4,
                                  optim="adamw_torch",
                                  learning_rate=2e-5)
 
### 配置评估参数
metric = metrics.Accuracy()
 
 
def compute_metrics(eval_pred):
    logits, labels = eval_pred
    preds = np.argmax(logits, axis=-1)
    return metric.compute(preds=preds, labels=labels)
 
 
### 使用swanlab监测
swanlab_config = {
    "dataset": "glue",
    "fp16_backend":"auto",
    "datacollator":"transformer"
}
swanlab_callback = SwanLabCallback(
    project="new_qwen2.5-7B-finetune",
    experiment_name="跑的官方例子的微调",
    description="这个是使用transformers的datacollator封装函数",
    workspace=None,
    config=swanlab_config,
)
### 创建训练器并且启动训练
trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=small_train_dataset,
    eval_dataset=small_eval_dataset,
    compute_metrics=compute_metrics,
    callbacks=[swanlab_callback],
)
 
trainer.train()
 
### 保存模型
output_dir="./output"
final_save_path = join(output_dir)
trainer.save_model(final_save_path)

这里使用HF Transformers实现同样的训练过程，使用NVIDIA-A100卡来跑了一次做个对比，A100对应的代码如下：

from datasets import load_dataset
from transformers import AutoTokenizer
from transformers import AutoModelForSequenceClassification
from transformers import TrainingArguments
import evaluate
import numpy as np
from transformers import Trainer
from swanlab.integration.transformers import SwanLabCallback
from os.path import join
import os
 
# 设置只使用第一个GPU
os.environ["CUDA_VISIBLE_DEVICES"] = "0"  # 使用第一块 GPU
 
### 加载数据集
dataset = load_dataset("nyu-mll/glue","cola")
 
### 加载分词器
tokenizer = AutoTokenizer.from_pretrained("google-bert/bert-base-cased")
 
### 处理数据集
def tokenize_function(examples):
    # 填充
    return tokenizer(examples["sentence"], padding="max_length", truncation=True)
 
tokenized_datasets = dataset.map(tokenize_function, batched=True)
 
# 减少数据量
small_train_dataset = tokenized_datasets["train"].shuffle(seed=42)
small_eval_dataset = tokenized_datasets["validation"].shuffle(seed=42)
 
### 加载模型
model = AutoModelForSequenceClassification.from_pretrained("google-bert/bert-base-cased", num_labels=2)
 
### 参数初始化
# 指定保存训练检查点的路径
training_args = TrainingArguments(logging_steps=1,
                                  output_dir="test_trainer",
                                  evaluation_strategy="epoch",
                                  half_precision_backend="auto",  
                                  per_device_train_batch_size=4,
                                  optim="adamw_torch",
                                  learning_rate=2e-5)
 
### 配置评估参数
metric = evaluate.load("accuracy")
 
def compute_metrics(eval_pred):
    logits, labels = eval_pred
    preds = np.argmax(logits, axis=-1)
    # 添加评估数据
    metric.add_batch(predictions=preds, references=labels)  # 使用add_batch方法添加批次数据
    # 计算准确度
    return metric.compute()
 
### 使用swanlab监测
swanlab_config = {
    "dataset": "glue"
}
swanlab_callback = SwanLabCallback(
    project="new_qwen2.5-7B-finetune",
    experiment_name="跑的官方例子的微调",
    description="用例子跑的，模型用的是bert，做文本分类任务",
    workspace=None,
    config=swanlab_config,
)
### 创建训练器并且启动训练
trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=small_train_dataset,
    eval_dataset=small_eval_dataset,
    compute_metrics=compute_metrics,
    callbacks=[swanlab_callback],
)
 
trainer.train()
 
### 保存模型
output_dir="./output/A100"
final_save_path = join(output_dir)
trainer.save_model(final_save_path)

3 结果展示

下面是Ascend NPU与A100实验对比：

首先是实验时间，此次实验epoch=3，

看样子昇腾卡比A100稍微快点

然后是显存消耗，其中两个监测NPU/GPU状态的代码如下：

# NPU：
watch -n 1 npu-smi info
 
# GPU：
nvtop

显存消耗差不多

最后是loss等参数的变化

感觉A100上运行的结果震荡比较明显，昇腾卡震荡比较少。

以上便是使用SwanLab来可视化跟踪模型微调过程，欢迎大家尝试！
如您在尝试过程中遇到任何问题或建议，欢迎访问魔乐社区的帮助中心进行反馈（https://gitee.com/modelers/feedback）。

魔乐社区
关注
LlamaFactory可视化微调大模型 - 参数详解
我码玄黄的博客
07-10 1738
是一个用于微调大型语言模型的强大工具，特别是针对LLaMA系列模型。可以适应不同的模型架构和大小。支持多种微调技术，如全参数微调、LoRA）、QLoRA）等。还给我们提供了简单实用的命令行接口。支持多cpu训练，多任务微调，还有各种内存优化技术，如梯度检查点、梯度累积等。支持混合精度训练，提高训练效率。本文不再赘述的安装过程在的webui里面，一切微调都是可视化，方便我们入手。我们可以不用了解每个参数背后的具体实现手段，但一定要知道每个参数的含义，大模型的微调不是一蹴而就，而是不断更新和优化。
SwanLab最全使用教程：看这篇就够了
qq_45258632的博客
01-06 3622
SwanLab是一个用于可视化和监控深度学习模型的工具。本文介绍了SwanLab的安装、启动和使用方法，并提供了参考链接。
使用 Ollama 本地运行各种 LLM
python123456_的博客
05-31 1215
今天看看另外一个产品Ollama。Ollama 的安装非常简单，只需从官网（https://ollama.com/download）下载后解压缩，并在 Terminal 中运行脚本即可完成环境设置。我尝试运行 Llama3，虽然在运行时占用了大量电脑资源，使得其他应用运行变慢，但整体体验尚可。Ollama 支持多种大型语言模型（https://ollama.com/library）。
SwanLab私有化部署教程！
最新发布
SoulmateY的博客
03-15 1120
SwanLab 是一个开源、现代化设计的深度学习训练跟踪与可视化工具，常被称为"中国版 Weights & Biases + Tensorboard"。SwanLab同时支持云端和离线使用，并适配了从PyTorch、Transformers、Lightning再到LLaMA Factory、veRL等30多种主流AI训练框架，Python API设计也简洁易上手，能轻松嵌入你的训练代码。
SwanLab：中国版Weights & Biases
qq_45258632的博客
03-08 937
SwanLab 是一款开源、现代化设计的深度学习训练跟踪与可视化工具，被誉为“中国版 Weights & Biases + Tensorboard”。它支持云端和离线使用，适配了 PyTorch、HuggingFace Transformers、LLaMA Factory 等 30 多种主流 AI 训练框架，提供简洁易用的 Python API，轻松嵌入训练代码。SwanLab 的核心功能包括训练可视化、自动日志记录、超参数管理、实验版本对比以及多人协作，帮助 AI 研究者高效管理实验、发现训练问题并提升团
探索机器学习的新境界：SwanLab——您的数据可视化神器
gitblog_00028的博客
05-31 520
探索机器学习的新境界：SwanLab——您的数据可视化神器 项目地址:https://gitcode.com/gh_mirrors/sw/SwanLab 在机器学习与深度学习的浩瀚领域中，追踪并可视化训练流程的重要性不言而喻。今天，让我们一同深入了解一个专为此目的打造的开源工具——SwanLab。这不仅是一个项目，它是您科研和开发过程中的得力助手，让复杂的模型训练变得触手可及，一目了然。 项目介绍...
Llama3微调实战：Swanlab可视化部署
weixin_44312617的博客
06-18 1558
使用swanlab可视化工具监控llama3微调过程
基于 Qwen2 大模型微调技术详细教程（LoRA 参数高效微调和 SwanLab 可视化监控）
老牛啊
07-20 3742
本教程详细介绍了 LoRA 参数高效微调技术，包括数据集准备和处理、模型加载、参数设置等，然后以 Qwen2-0.5B 预训练模型实践，进行了文本分类能力微调，微调过程通过 SwanLab 可视化界面查看，最终微调模型进行测试数据评估……
BERT-IMDB电影评论情感分类实战：SwanLab可视化训练
2401_85782600的博客
07-02 407
基于BERT模型的IMDB电影评论情感分类，是NLP经典的Hello World任务之一。这篇文章我将带大家使用SwanLab、transformers、datasets三个开源工具，完成从数据集准备、代码编写、可视化训练的全过程。观察了一下，中文互联网上似乎很少有能直接跑起来的BERT训练代码和教程，所以也希望这篇文章可以帮到大家。
BaiChuan2-7B-finetune完整微调代码（Swanlab可视化工具）
weixin_44312617的博客
11-24 1187
SwanLab是一款完全开源免费的机器学习日志跟踪与实验管理工具，为人工智能研究者打造。基于一个名为swanlab的python库可以帮助您在机器学习实验中记录超参数、训练日志和可视化结果能够自动记录logging、系统硬件、环境配置（如用了什么型号的显卡、Python版本是多少等等）可以完全离线运行，在完全内网环境下也可使用SwanLab官方文档 | 先进的AI团队协作与模型创新引擎Environment Card：实验参数卡片Charts：记录loss和accuracy。
Swanlab：深度学习实验管理与训练可视化工具
养乐多的博客
08-06 1397
本文将介绍一个深度学习实验管理与训练可视化的工具，Swanlab。由西安电子科技大学的团队开发，它能够方便地进行训练可视化、多实验对比、超参数记录、大型实验管理和团队协作，并支持用网页链接的方式分享你的实验。
国内加载流畅的AI模型训练平台 【Swanlab快速入门】
2401_85578645的博客
06-17 3701
SwanLab是一款开源、轻量级的AI实验跟踪工具，提供了一个跟踪、比较、和协作实验的平台，旨在加速AI研发团队100倍的研发效率。其提供了友好的API和漂亮的界面，结合了超参数跟踪、指标记录、在线协作、实验链接分享、实时消息通知等功能，让您可以快速跟踪ML实验、可视化过程、分享给同伴。借助SwanLab，科研人员可以沉淀自己的每一次训练经验，与合作者无缝地交流和协作，机器学习工程师可以更快地开发可用于生产的模型。
SwanLab快速上手（Wandb国产平替）
SoulmateY的博客
05-07 3536
SwanLab是一款开源、轻量级的AI实验跟踪工具，提供了一个跟踪、比较、和协作实验的平台，旨在加速AI研发团队100倍的研发效率。其提供了友好的API和漂亮的界面，结合了超参数跟踪、指标记录、在线协作、实验链接分享、实时消息通知等功能，让您可以快速跟踪ML实验、可视化过程、分享给同伴。相比于Tensorboard，SwanLab记录的信息更全、使用更方便。相比于Wandb，则访问速度更快，更方便于在国内使用，与主创团队交流更容易。
SwanLab：来自中国的深度学习轻量级可视化工具入门教程
qq_45258632的博客
01-08 1461
本文，就来给大家介绍一款新型的机器学习可视化工具SwanLab，能够让人工智能研发过程变得更加简单明了。
【快速入门】SwanLab-开源AI训练可视化工具
m0_73270784的博客
01-25 2673
SwanLab是一款完全开源免费的机器学习日志跟踪与实验管理工具，为人工智能研究者打造。有以下特点：基于一个名为swanlab的python库可以帮助您在机器学习实验中记录超参数、训练日志和可视化结果能够自动记录logging、系统硬件、环境配置（如用了什么型号的显卡、Python版本是多少等等）可以完全离线运行，在完全内网环境下也可使用。
GLM4指令微调实战（完整代码）
SoulmateY的博客
06-10 6356
GLM4指令微调实战，学习LLM微调的入门级任务，附带完整代码。
初学者如何对大模型进行微调？
2301_82275412的博客
06-06 2019
现在大模型微调的门槛越来越低，市场上有大量开源微调框架。只要你会部署、有机器就能出个结果，赶紧动手玩起来吧！读者福利：如果大家对大模型感兴趣，这套大模型学习资料一定对你有用如果你是零基础小白，想快速入门大模型是可以考虑的。一方面是学习时间相对较短，学习内容更全面更集中。二方面是可以根据这些资料规划好学习计划和方向。包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！😝有需要的小伙伴，可以保存图片到。
SwanLab 开源项目使用教程
gitblog_00203的博客
08-18 363
SwanLab 开源项目使用教程 项目地址:https://gitcode.com/gh_mirrors/sw/SwanLab 目录结构及介绍 SwanLab 项目的目录结构如下： SwanLab/ ├── README.md ├── docs/ │ ├── installation.md │ ├── quickstart.md │ └── ... ├── src/ │ ├── m...
Wandb有哪些国产平替？【Swanlab】AI模型训练 | 在线，开源，可视化
2401_85578645的博客
06-16 3009
Wandb（全称为Weights and Biases）是一个用于跟踪、可视化和协作机器学习项目的工具。对于国内用户来说，Wandb可能会出现网络卡顿，技术沟通不畅等问题。这篇文章将介绍一款功能平替，加载、沟通更加流畅的AI模型训练平台【Swanlab】。
lora微调步骤可视化
02-28
### LoRA 模型微调过程可视化教程 #### 加载大模型与环境设置 为了实现LoRA参数高效微调，首先需要加载预训练的大规模语言模型。这一步骤通常涉及指定模型名称以及下载相应的权重文件。对于具体操作而言，在Python环境中可以通过`transformers`库来完成这一目标[^3]。 ```python from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "Qwen2.5-Coder-7B-Instruct" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained(model_name) ``` #### 数据集格式化处理 接下来是对用于微调的数据集进行必要的前处理工作。这里以中文法律问答数据集DISC-Law-SFT为例，需将其转换成适合输入给定模型的形式。此过程中可能涉及到分词、编码等一系列自然语言处理任务。 ```python import pandas as pd from datasets import load_dataset dataset = load_dataset('path_to_DISC_Law_SFT') tokenized_datasets = dataset.map(lambda examples: tokenizer(examples['text']), batched=True) ``` #### LoRA 参数准备 针对选定的基础模型应用LoRA方法来进行参数调整之前，还需要安装并导入专门支持该功能的工具包——PEFT (Parameter-Efficient Fine-Tuning)。之后按照官方文档指导设定好各超参选项即可开始实际训练流程。 ```python from peft import LoraConfig, get_peft_model lora_config = LoraConfig( r=8, lora_alpha=16, target_modules=["q_proj", "v_proj"], lora_dropout=0.05, ) peft_model = get_peft_model(model, lora_config) ``` #### 使用 SwanLab 进行微调监控 在整个微调期间，借助SwanLab平台可以直观地观察到各项指标变化情况，从而更好地掌握训练动态并及时作出相应优化措施。例如，用户能够查看损失函数曲线、验证集性能等重要信息，以便判断当前策略的有效性和稳定性[^1]。 ![swanlab](https://example.com/swanlab_screenshot.png) *图示：通过SwanLab展示的微调进度* #### 完整代码实例 以下是综合上述各个部分的一个简单例子： ```python # 导入所需模块 from transformers import Trainer, TrainingArguments from peft import PeftModel training_args = TrainingArguments(output_dir="./results") trainer = Trainer( model=PeftModel(peft_model), args=training_args, train_dataset=tokenized_datasets["train"], eval_dataset=tokenized_datasets["validation"] ) # 开始训练，并利用SwanLab跟踪进展 trainer.train() ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值