使用LLaMA-Factory微调Qwen2.5-0.5B实验记录

最新推荐文章于 2025-04-08 17:54:45 发布
最新推荐文章于 2025-04-08 17:54:45 发布
阅读量1.4k 收藏 11
点赞数 19
文章标签： llama
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/xuptyjs/article/details/143748415
版权

1.安装LLaMA-Factory

先在github上拉取项目代码

https://github.com/hiyouga/LLaMA-Factory.git

进入项目目录

cd LLaMA-Factory

创建虚拟环境

conda create -n factory python=3.11

下载安装包

pip install -e ".[torch,metrics]"

2.启动 LLaMA-Factory前端页面

llamafactory-cli webui

这里可能会报错，直接重新创建虚拟环境，按照流程重新安装：

RuntimeError: Failed to import trl.trainer.dpo_trainer because of the following error (look up to see its traceback):
cannot import name 'log' from 'torch.distributed.elastic.agent.server.api' (/opt/conda/lib/python3.10/site-packages/torch/distributed/elastic/agent/server/api.py)

3.训练参数设置

 设置完成后点击开始

训练正常开始

训练过程中，损失函数可以实现可视化

4.推理

采用lora动态合并的方式，会加载基础模型并应用 LoRA 微调适配器，从而实现微调后的模型效果。

CUDA_VISIBLE_DEVICES=0 llamafactory-cli chat  
--model_name_or_path /model/Qwen2.5-0.5B-Instruct/  
--adapter_name_or_path /LLaMA-Factory/LLaMA-Factory/saves/Qwen2.5-0.5B/lora/train_2024-11-13-16-17-06/checkpoint-186  
--template qwen

推理效果正常 

 5.Lora权重合并

进入Lora合并的yaml文件夹下：

cd LLaMA-Factory/LLaMA-Factory/examples/merge_lora

新建一个qwen2.5_lora_sft.yaml文件，仿照项目中的llama3_lora_sft.yaml，创建合并的yaml文件

### model
model_name_or_path: /model/Qwen2.5-0.5B-Instruct  #基础模型路径
adapter_name_or_path: /LLaMA-Factory/LLaMA-Factory/saves/Qwen2.5-0.5B/lora/train_2024-11-14-09-03-29/checkpoint-321    #微调保存的Lora权重路径
template: qwen
finetuning_type: lora

### export
export_dir: /model/Qwen2.5-0.5B-merge   #合并后模型文件导出路径
export_size: 2
export_device: cpu
export_legacy_format: false

 进入到LLaMA-Factory根目录下，执行合并命令

llamafactory-cli export examples/merge_lora/qwen2.5_lora_sft.yaml

 推理测试

CUDA_VISIBLE_DEVICES=0 llamafactory-cli chat  
--model_name_or_path /model/Qwen2.5-0.5B-merge    
--template qwen

有一个小问题，实验采用的是刑法instruct数据集，发现采用上面的动态lora合并推理效果好像更好，有了解的朋友还请帮忙解答，感谢！

llamafactory0.9.0微调qwen2.5
liguandong
09-24 1104
本文介绍了如何使用LLaMA-Factory微调Qwen1.5模型，包括1.8B和0.5B版本的训练细节。在数据、训练、LORA融合及推理等方面进行了探讨，同时也分享了微调后模型在不同任务上的表现，如聊天对齐和显存占用等。在4卡A800-80G上微调的，数据不变。但是由于llamafactory更新了版本，因此训练命令也有所变化。llama_factory微调QWen1.5_llama factory qwen-CSDN博客。注意训练数据要同步往llamafactory的dataset文件中拉取一份。
LLama-Factory 快速部署Qwen2.5模型
q742971636的博客
11-04 891
【代码】LLama-Factory 快速部署Qwen2.5模型。
基于 Qwen2.5-0.5B 微调训练 Ner 命名实体识别任务
小毕超博客
09-30 5366
Qwen2.5 是 Qwen 大型语言模型的最新系列，参数范围从 0.5B 到 72B 不等。大大提高了编码和数学能力。在指令跟随、生成长文本（超过 8K 个标记）、理解结构化数据（例如表格）以及生成结构化输出（尤其是 JSON）方面有了显著改进。
RuntimeError: Failed to import transformers.models.roberta.modeling_roberta because of the following
weixin_44012667的博客
03-27 1162
升级PyTorch到1.10.0+并确保Transformers版本兼容。
llama factory lora 微调 qwen2.5 7B Instruct模型
weixin_41046245的博客
11-14 3753
项目背景 甲方提供一台三卡4080显卡 需要进行qwen2.5 7b Instruct模型进行微调。以下为整体设计。要使用对进行，流程与之前提到的模型类似。LoRA 微调是一种高效的微调方法，通过低秩适配器层来调整预训练模型的权重，而不是全量训练整个模型。
大模型私人定制：5分钟教你不写一行代码微调构建属于你的大模型（使用llama-factory微调Qwen大模型）
weixin_42782643的博客
03-14 1835
本文介绍了使用llama-factory微调大模型的方法，无需编程即可将通用模型转化为领域专家。涵盖微调原理（如LORA高效调参）、环境搭建、数据集构建、参数设置及实战步骤，并演示了模型评测对比，帮助你构建自己的大模型！
llama-factory实战: 基于qwen2.5-7b 手把手实战 自定义数据集清洗 微调
热门推荐
yierbubu1212的博客
09-29 1万+
准备工作1.数据集准备（例:民法典.txt）2.服务器准备（阿里云 DSW 白嫖）3.环境配置pip 升级模型下载微调助手4.数据集处理脚本文件4.1文本分割(bert-base-chinese)4.2数据集生成4.3.1数据集转换（只有一个数据集）alpaca格式4.3.2训练集验证集划分（两个数据集）alpaca格式5.开始微调5.1配置文件修改5.2进入微调ui5.3修改参数即可训练5.4训练结果6.测试评估7.模型对话8.模型合并9.模型量化。
llama-factory微调qwen2.5-vl
最新发布
qq_44908396的博客
04-08 1253
使用llama-factory完成qwen2.5-vl微调
[论文笔记] llama-factory 微调qwen2.5、llama3踩坑
心宝的博客
10-18 1535
【代码】[论文笔记] llama-factory 微调qwen2.5、llama3踩坑。
LLM - 使用 LLaMA-Factory 微调 Qwen2-VL SFT(LoRA) 图像数据集 教程 (2)
AGI
11-12 2880
LLaMA-Factory 是开源的大模型微调框架，用于高效地微调和部署大语言模型，支持多种预训练模型和微调算法，提供完整的工具和接口，对于预训练的模型进行定制化的训练和调整，以适应特定的应用场景。
llama-factory 微调 Qwen2.5-3B-Instruct
coco的专栏
03-21 889
官方 readme: https://github.com/hiyouga/LLaMA-Factory/blob/v0.9.1/README_zh.md官方文档: https://llamafactory.readthedocs.io/zh-cn/latest/官方推荐的知乎教程：https://zhuanlan.zhihu.com/p/695287607 笔者conda环境 Python 包如下：命令行输入： 执行截图：关于数据集文件的格式，请参考 data/README_zh.md 的内
LLM - 使用 LLaMA-Factory 微调 Qwen2-VL DPO(LoRA) 图像数据集 教程 (3)
AGI
11-26 2367
DPO(Direct Preference Optimization, 直接偏好优化) 是在 RLHF 阶段中使用的优化算法，通过直接利用人类的偏好数据来优化策略模型，无需定义明确的奖励函数或进行复杂的强化学习过程。DPO的优化目标是，增加偏好样本的对数概率与减小非偏好样本响应的对数概率，结合动态加权机制，以避免仅使用概率比目标时遇到的模型退化问题。
llama-factory 系列教程 (七)，Qwen2.5-7B-Instruct 模型微调与vllm部署详细流程实战
jieshenai的博客
11-25 8397
介绍了如何使用该工具进行模型的微调和部署，内容涵盖工具的安装、模型下载、数据集准备、Lora 微调方法、命令行与 YAML 文件配置的训练流程，以及推理测试与多种部署方式。文章以实验流程为线索，结合图文演示，快速上手并高效完成 LLaMA-Factory 的实际应用。
llama factory LoRA微调qwen大模型 | 新手炼丹记录(1)
m0_73365120的博客
09-05 9205
在本地机器微调Qwen大模型遇到显存不足的问题，尝试使用AutoDL算力云进行微调。租用24GB显存的计算资源后，通过LoRA方法微调了Qwen1.5:7b模型，并将微调、转换、量化后的gguf模型下载到本地进行部署。过程中详细介绍了算力租赁、环境搭建、数据集准备、模型微调和导出的步骤，最终成功完成模型的微调与部署。
在autodl平台使用llama-factory微调Qwen1.5-7B
yidao0618的博客
05-01 4322
​ “output”: “尽管我们相聚的时光有限，但是相聚的意义在于创造美好的回忆和珍贵的关系。相聚让我们感受到彼此的关怀、支持和友情。最重要的是，相聚能够带给我们真实的人际交往和情感交流，让我们感受到生活的丰富和美好。“output”: “尽管我们相聚的时光有限，但是相聚的意义在于创造美好的回忆和珍贵的关系。最重要的是，相聚能够带给我们真实的人际交往和情感交流，让我们感受到生活的丰富和美好。​ “input”: “天下没有不散的筵席，那么我们相聚的意义又是什么”,
微调Qwen2.5-0.5B记录
volcan的博客
01-18 1512
本文基座模型为。
【从零开始系列】Qwen2.5 & Llama-Factory：开源语言大模型+训练平台——（超详细、最新版）一篇文章解决：环境搭建 =＞ 微调训练 =＞ 本地部署
qq_58718853的博客
01-13 5583
使用llama-factory大语言模型微调高效平台，对qwen2.5官方预训练模型进行微调并部署
LLamafactory微调总结
baiyipiao的博客
02-24 1440
Llamafactory微调汇总
【学习记录】大模型微调之使用 LLaMA-Factory 微调 Qwen系列大模型，可以用自己的数据训练
风信子的博客
03-24 1972
LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调，框架特性包括
llama-factory 微调 qwen2.5-vl
03-29
### 使用 LLaMA-Factory 对 Qwen2.5-VL 进行微调 为了实现对 Qwen2.5-VL 的微调操作，可以参考 LLaMA-Factory 提供的相关功能以及其配置文件中的参数设置[^1]。以下是具体方法： #### 配置数据参数 在 `data_args.py` 文件中定义的数据参数部分，需调整以适配 Qwen2.5-VL 数据输入需求。例如，在指定路径时应考虑视觉语言模型特有的多模态数据结构。 ```python from dataclasses import dataclass, field @dataclass class DataArguments: dataset_name: str = field(default="my_custom_dataset", metadata={"help": "The name of the dataset to use."}) max_seq_length: int = field(default=512, metadata={"help": "Maximum sequence length."}) image_size: int = field(default=224, metadata={"help": "Image size for vision tasks."}) # 新增图像尺寸支持 ``` 上述代码片段展示了如何扩展默认参数来适应视觉任务的需求，特别是针对图像大小的设定。 #### 修改训练脚本 对于实际执行微调过程，则需要修改主训练脚本来加载预训练权重并初始化优化器等相关组件。这里假设已下载好对应版本的 Qwen 权重文件。 ```bash #!/bin/bash export MODEL_NAME_OR_PATH=qwen/Qwen2.5-VL export OUTPUT_DIR=./output_qwen_vl_finetune torchrun --nproc_per_node 4 run_clm.py \ --model_name_or_path $MODEL_NAME_OR_PATH \ --train_file ./path_to_your_training_data.json \ --validation_split_percentage 5 \ --per_device_train_batch_size 8 \ --gradient_accumulation_steps 4 \ --learning_rate 5e-5 \ --weight_decay 0.01 \ --num_train_epochs 3 \ --save_strategy epoch \ --logging_dir ./logs/qwen_vl_log \ --output_dir $OUTPUT_DIR ``` 此脚本设置了分布式运行环境，并指定了必要的超参调节选项以便更好地完成目标任务。 #### 注意事项 当处理像 Qwen2.5-VL 这样的大型多模态模型时，请务必注意硬件资源分配情况；如果显存不足可适当降低 batch size 或启用 gradient checkpointing 技术减少内存消耗。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值