LLama Factory大模型微调之TensorBoard配置

已于 2025-03-27 09:24:11 修改
阅读量588 收藏 19
点赞数 17
分类专栏： 微调课程笔记 文章标签： llama 人工智能 深度学习
于 2025-03-27 09:22:52 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43588095/article/details/146548175
版权

LLama Factory大模型微调之TensorBoard配置

一、TensorBoard概述

  1. 定义与功能：TensorBoard是TensorFlow的可视化工具套件，用于理解、调试和优化机器学习模型训练过程。它提供丰富可视化仪表盘，能直观监控微调训练中的各种指标，如损失率和准确率曲线、张量分布、模型图等。
  2. 操作手册：可参考官方文档：https://tensorflowcn.cn/tensorboard/get_started

二、在LLaMA - Factory中配置TensorBoard

  1. 安装依赖包
    • TensorBoard依赖于TensorFlow，建议先安装TensorFlow，安装命令：pip install tensorFlow。
    • 单独安装TensorBoard命令：pip install tensorboard，若安装过程提示缺少包，按提示安装即可。
    • 安装完成后，可使用tensorboard --version验证是否安装成功，若输出版本号则安装完成。
  2. 添加训练参数
    • 在LLaMA - Factory中，通过添加--report_to "tensorboard"指定使用TensorBoard。
    • 使用--logging_dir指定日志路径，如--logging_dir single_lora_qwen_log，需注意该路径是启动命令的相对路径，建议使用绝对路径。
    • 将LLaMA - Factory生成的训练命令复制，添加上述两个参数到命令中。同时要注意，若原命令中--report_to参数值为none，需改为tensorboard，且整个命令中不要有重复指令数据，否则会导致输出失败 。
  3. 启动TensorBoard服务
    • 命令格式：tensorboard --logdir="日志文件夹路径" --host 服务器IP --port 端口号，如tensorboard --logdir="single_lora_qwen_log" --host 192.168.110.133 --port 6006，表示监控指定文件夹内容并展示在服务器的6006端口下。
    • 执行命令后，若没有报错，在本地电脑（与服务器互通情况下）访问http://服务器IP:端口号/#scalars，如http://192.168.110.133:6006/#scalars，即可查看模型训练的详细信息。

三、LLaMA - Factory + LORA大模型微调相关知识补充

  1. LORA原理
    • 来源于微软2021年论文《LORA: LOW - RANK ADAPTATION OF LARGE LANGUAGE MODELS》，核心思想是基准模型不变，额外引入参数矩阵（ΔW）做专属内容处理，新矩阵h = Wox + ΔWx （WO为原始权重矩阵，x为输入向量）。
    • LORA与适配器微调（Adapter Tuning）不同，Adapter Tuning在模型本身增加层次，会使模型推理路径变长；LORA保持模型完整性，引入外部参数矩阵与原模型结合输出。
    • LORA可应用于大模型微调，如GPT系列和transformer模型等过参数化模型，通过优化秩分解矩阵间接训练神经网络密集层，节省计算资源。
  2. LLaMA - Factory作用与使用
    • LLaMA - Factory是GitHub上的开源项目，可用于大模型微调，支持命令行界面（CL）、Web示例（Demo）和API调用等多种使用方式，操作简便，具体指南可在官方GitHub页面查看。
    • 在使用时，不同版本可能会有更新，使用前需关注更新点。安装部署过程包括创建Python虚拟环境、下载项目文件、安装依赖包等，对本地软硬件环境有一定要求，如CUDA至少11.6版本，推荐12.2版本 。
  3. 数据集与微调流程
    • 先使用LLaMA - Factory自带数据集进行微调，后续会讲解使用自定义数据集的方法。不同数据集详细情况可在其GitHub官网查看。
    • 微调流程包括框架安装、模型下载、数据集准备、选择参数方法点击微调，微调完成后需合并模型并二次验证。

四、答疑环节

  1. LORA与冻结参数关系：LORA本质不是通过冻结参数调节，而是引入外部权重矩阵，保持原模型完整性，与原模型结合输出；而上节课讲的冻结参数是逐层或等层冻结，在同一模型上进行操作。
  2. LORA与知识库区别：LORA是训练好的参数权重集，可类比为挂上去的知识库，但原理不同。知识库是向量库，实时可更新；LORA是用于微调的参数集。
  3. LLaMA模型与LORA应用：LLaMA模型可以用LORA方法实现微调，支持实体关系三元组提取任务。
  4. 企业微调工具选择：企业中微调可使用LLaMA - Factory开源工具，也可使用其他工具，取决于具体需求。LLaMA - Factory框架默认支持一些微调设置，若有特殊需求，如指定特定模块微调，可能需要借助其他方式。
LlamaFactory：解锁LLM微调效率的终极神器！
Code1994的博客
12-25 1269
LLaMA Factory 是一个简单易用且高效的大型语言模型（Large Language Model）训练与微调平台。通过 LLaMA Factory，可以在无需编写任何代码的前提下，在本地完成上百种预训练模型的微调，框架特性包括：模型种类：LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Yi、Gemma、Baichuan、ChatGLM、Phi 等等。
教程：利用LLaMA_Factory微调llama3:8b大模型
m0_60683691的博客
05-06 4441
在存放模型空白处右键，点击git bash here，下载llama3模型至本地由于文件较大，因此该过程比较久，保持下载窗口打开，知道出现下一命令行表示下载完成。
llama factory 训练 TensorBoard 可视化
WGS.
08-07 1867
llama factory 训练 TensorBoard 可视化
5分钟NLP：使用 HuggingFace 微调BERT 并使用 TensorBoard 可视化
deephub
03-10 7963
上篇文章我们已经介绍了Hugging Face的主要类，在本文中将介绍如何使用Hugging Face进行BERT的微调进行评论的分类。其中包含：AutoTokenizer、AutoModel、Trainer、TensorBoard、数据集和指标的使用方法。 在本文中，我们将只关注训练和测试拆分。每个数据集都由一个文本特征（评论的文本）和一个标签特征（表示评论的好坏）组成。 from datasets import load_dataset, load_metric task = "imdb" data
详解Tensorboard及使用教程
热门推荐
weixin_53598445的博客
11-13 5万+
目录一、什么是Tensorboard二、配置Tensorboard环境要求安装三、Tensorboard的使用使用各种add方法记录数据单条曲线(scalar)多条曲线(scalars)直方图(histogram)图片(image)渲染(figure)网络(graph)其他三、结语 一、什么是Tensorboard Tensorboard原本是Google TensorFlow的可视化工具，可以用于记录训练数据、评估数据、网络结构、图像等，并且可以在web上展示，对于观察神经网络的过程非常有帮助。PyTor
Tensorboard常见用法示例
心流的博客
09-06 350
通过运行这个脚本我们可以得到一个存放在 ‘/data/chenkj/tensorboard’ 下的文件，再运行下面代码就可以启动tensorboard了，我们只需要复制这行代码打印出的网址就可以在浏览器中在线查看模型的结构了，比如输出的是 http://0.0.0.0:6007/，只需要把0.0.0.0换成你开启tensorboard的机器的ip就行了，下面其他例子都是一样的操作，后续就不赘述了。
用 LLama-Factory 训练和微调 LLama3，打造你的专属 AI 模型！
数智笔记
05-19 2439
微调模型涉及调整预训练或基础模型的参数，使其能够用于特定任务或数据集，从而提升其性能和准确性。这个过程包括为模型提供新的数据，并修改其权重、偏差和某些参数以最小化损失和成本。通过这样做，这个新模型可以在任何新任务或数据集上表现良好，而无需从头开始，从而节省时间和资源。通常，当一个新的大型语言模型（LLM）创建时，它会在一个大型文本数据语料库上进行训练，其中可能包含潜在有害或不良内容。在预训练或初始训练阶段之后，模型会被微调加入安全措施，确保其避免生成有害或不良的响应。然而，这种方法并非完美无缺。
【01】LLaMA-Factory微调大模型——基础环境配置
H66778899的博客
07-16 2553
【01】LLaMA-Factory微调大模型——基础环境配置
LLM实践（二）——基于llama-factory的模型微调、加载和推理
lucky_chaichai的博客
03-26 1214
基于llama-factory实现模型微调
Ubuntu 服务器Llama Factory 搭建DeepSeek-R1微调训练环境
谁念西风独自凉
02-20 2011
LLaMA-Factory 是一个强大的大型语言模型微调框架：支持多种模型：涵盖 LLaMA、LLaVA、Mistral、Mixtral-MOE、Qwen、Qwen2-VL、Yi、Gemma、Baichuan、ChatGLM、Phi 等 100 多种模型。集成多种方法：包括（增量）预训练、（多模态）监督微调、奖励建模、PPO、DPO、KTO、ORPO 等方法，满足不同任务和场景的需求。
大模型培训讲师叶梓:Llama Factory 微调模型实战分享提纲
人工智能讲师分享前沿技术
09-23 1451
LLaMA-Factory ——一个高效、易用的大模型训练与微调平台。它支持多种预训练模型，并且提供了丰富的训练算法，包括增量预训练、多模态指令监督微调、奖励模型训练等。
LLaMA-Factory：手把手教你从零微调大模型！
php源码
07-24 1万+
在深度学习领域，模型微调通常指的是在预训练模型的基础上进行的进一步训练。预训练模型是在大量数据上训练得到的，它已经学习到了语言的基本规律和丰富的特征表示。然而，这些模型可能并不直接适用于特定的任务或领域，因为它们可能缺乏对特定领域知识的理解和适应性。模型微调通过在特定任务的数据集上继续训练预训练模型来进行，使得模型能够学习到与任务相关的特定特征和知识。这个过程通常涉及到模型权重的微幅调整，而不是从头开始训练一个全新的模型。
llama-factory学习个人记录
qq_55736201的博客
05-22 4066
1.llama-factory部署在LLaMA-Factory项目中，单显卡可以用命令或训练，多显卡只能用用命令的方式。
TensorBoard使用和问题解决
bulletstart的博客
12-11 2218
TensorBoard使用和问题解决
大模型三阶段训练方法(LLaMa Factory)
2401_85373691的博客
12-24 2873
根据LLaMa-Factory的README，我们需要在中按照以下格式注册自定义的数据集。"数据集名称": { "file_name": "data.json", "columns": { "prompt": "text" } }我们在在},在中，注册新添加的数据集。},
10 分钟，教你如何用 LLama-Factory 训练和微调 LLama3 模型
了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识，以及DigitalOcean云平台使用教程
05-21 9902
在本文中，我们将了解如何使用 LLama Index 对 LLama3 进行微调。更重要的是，你只需要通过非常简单的步骤和几行代码，就能实现这一点。
如何训练一个大模型：LoRA篇
weixin_55154866的博客
11-29 1085
现在有很多开源的大模型，他们一般都是通用的，这就意味着这些开源大模型在特定任务上可能力不从心。为了适应我们的下游任务，就需要对预训练模型进行微调。在新的数据集上训练，会破坏大模型原来的能力，使其泛化能力急剧下降；而且现在的模型参数动辄几十亿上百亿，要执行全参数微调的话，他贵啊！！于是LoRA出现了， LoRA（Low-Rank Adaptation)是微软提出的一种参数有效的微调方法，可以降低微调占用的显存以及更轻量化的迁移。同时解决了上述两个问题，那它凭什么这么厉害？往下看吧。
20_大模型微调和训练之-基于LLamaFactory+LoRA微调LLama3后格式合并
最新发布
04-29 896
使用ollama create命令创建自定义模型llama-3-8B-Instruct 这个名字是自己创建的。
llama-factory部署微调参数
04-04
<think>好的，用户想了解如何设置Llama-Factory进行模型微调以及相关的参数配置和部署指南。首先，我需要回忆一下之前提供的引用内容，特别是引用1、2、3中的相关信息。 引用1提到了安装步骤，用户可能需要先完成环境配置。引用2介绍了LLaMA-Factory的整体功能和可视化界面，这可能在参数配置时有用。引用3提到了ROUGE分数等评估指标，可能在微调后的评估阶段需要用到。 接下来，我应该分步骤来组织回答。首先是安装和环境配置，这部分引用1的git clone和pip安装步骤可以直接引用。然后是关于数据集准备，可能需要指导用户如何准备自定义数据，或者使用内置的数据集。参数配置部分需要详细说明关键参数，比如模型路径、学习率、训练轮数等，这些可能需要参考LLaMA-Factory的文档或常见配置。微调启动部分需要给出命令行示例和可视化界面的使用方法，引用2提到可视化界面，应该强调这一点。部署和评估部分，引用3中的评估指标如ROUGE分数需要包含进去，同时可能涉及模型导出和推理步骤。 用户可能对参数的具体作用不太清楚，需要解释每个参数的意义和调整建议。例如，学习率过大可能导致不收敛，过小则训练慢。此外，用户可能关心如何监控训练过程，比如使用TensorBoard，这也是需要提到的。 在部署方面，用户可能需要知道如何将微调后的模型应用到实际场景，比如使用HuggingFace的Pipeline进行推理。同时，评估部分需要说明如何计算ROUGE等指标，确保模型性能达标。 最后，相关问题的生成要围绕用户可能进一步的问题，比如优化训练速度、处理显存不足、评估指标含义等，这些都需要基于之前的引用内容来设计。 需要确保回答结构清晰，步骤明确，参数解释到位，并且引用正确的参考资料。同时，使用中文，符合格式要求，避免使用Markdown，用自然的分段和项目符号。检查是否有遗漏的步骤或参数，确保用户能够按照指南顺利操作。</think>### LLaMA-Factory微调参数配置与部署指南 #### 一、环境准备 1. 克隆仓库并安装依赖（需Python ≥3.8环境） ```bash git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git cd LLaMA-Factory pip install -e ".[torch,metrics]" ``` 此步骤包含PyTorch和评估指标库的完整安装[^1] #### 二、关键参数配置 在`src/llmtuner/hparams`目录下的配置文件中设置： ```python { "model_name_or_path": "meta-llama/Llama-2-7b-hf", # 预训练模型路径 "learning_rate": 2e-5, # 推荐范围1e-5到5e-5 "num_train_epochs": 3, # 典型微调轮次 "per_device_train_batch_size": 4, # 根据显存调整 "gradient_accumulation_steps": 8, # 有效增大batch_size "max_source_length": 512, # 输入文本最大长度 "lora_r": 8, # LoRA低秩矩阵维度 "lora_alpha": 32, # LoRA缩放系数 "logging_steps": 50 # 训练日志间隔 } ``` *注：使用LoRA技术时建议保持`lora_alpha = 4*lora_r`的比例关系* #### 三、微调启动方式 1. **命令行模式**： ```bash python src/train_bash.py \ --stage sft \ --do_train \ --dataset alpaca_en \ --finetuning_type lora \ --output_dir outputs ``` 2. **可视化界面**（推荐新手）： ```bash python src/webui.py ``` 通过Web界面选择模型/数据集，参数配置实时可视化[^2] #### 四、部署与评估 1. 模型导出（LoRA适配器合并） ```python from llmtuner import export_model export_model(adapter_path="outputs/checkpoint-1000") ``` 2. 推理部署示例： ```python from transformers import pipeline generator = pipeline("text-generation", model="merged_model") print(generator("如何做蛋炒饭？")[0]["generated_text"]) ``` 3. 评估指标监控（训练日志包含）： - ROUGE-L：衡量生成文本与参考文本的语义匹配度 - 推理速度：`predict_samples_per_second`反映实时性能 - 显存占用：通过`nvidia-smi`监控[^3] #### 五、参数调优建议 1. 显存不足时： - 降低`per_device_train_batch_size` - 增大`gradient_accumulation_steps` - 启用`fp16`混合精度训练 2. 提升训练效果： - 逐步增加`max_source_length`（不超过模型最大长度） - 尝试不同的`lora_r`值（8/16/32） - 调整`learning_rate`配合学习率调度器
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值