教育领域“知之”大模型--山东大学软件学院2024年项目实训（九）

Huan.J

已于 2024-06-24 13:36:07 修改

阅读量344

点赞数 6

文章标签：人工智能

于 2024-06-24 12:10:45 首次发布

本文链接：https://blog.csdn.net/m0_62817302/article/details/139921943

版权

# （3）模型微调

我们接下来对大模型在数学类数据集（blossom-math-zh）上进行微调。

1.数据集：blossom-math-zh

数据集的具体信息：

2.微调代码：

# pip install ms-swift[all] -U

# Experimental environment: A10, 3090, V100, ...
# 20GB GPU memory
import os
import os
os.environ['CUDA_VISIBLE_DEVICES'] = '0'

import torch

from swift.llm import (
    DatasetName, InferArguments, ModelType, SftArguments,
    infer_main, sft_main, app_ui_main, merge_lora
)

model_type = ModelType.deepseek_math_7b_instruct
sft_args = SftArguments(
    model_type=model_type,
    train_dataset_sample=2000,
    dataset=[DatasetName.blossom_math_zh],
    output_dir='output')
result = sft_main(sft_args)
best_model_checkpoint = result['best_model_checkpoint']
print(f'best_model_checkpoint: {best_model_checkpoint}')
torch.cuda.empty_cache()

infer_args = InferArguments(
    ckpt_dir=best_model_checkpoint,
    load_dataset_config=True,
    val_dataset_sample=10)
# merge_lora(infer_args, device_map='cpu')
result = infer_main(infer_args)
torch.cuda.empty_cache()

app_ui_main(infer_args)