【AI大模型】Llama Factory训练全过程（超详细实况一）

最新推荐文章于 2025-03-11 10:19:19 发布
最新推荐文章于 2025-03-11 10:19:19 发布
阅读量3.7k 收藏 27
点赞数 12
文章标签： 人工智能 llama 大模型 ai大模型 自然语言处理 私有化部署 大模型微调
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huang9604/article/details/143346784
版权

前言

谨以此文记录踩坑实况，一则日后温习，二则指路旁人

llamafactory微调

1.启动llamafactory可视化页面选择模型

docker部署完成后

#运行此命令进入容器内部
docker exec -it llamafactory /bin/bash
# 启动可视化页面
llamafactory-cli webui

在这里插入图片描述

然后在本机访问localhost:7860 在这里插入图片描述

语言和需要的模型，在此选择后，模型路径会自动填充，启动训练时会自动向huggingface下载base模型，但由于国内原因，可能无法访问到huggingface，可以选择设置魔搭下载地址

set USE_MODELSCOPE_HUB=1

或者使用本地地址，这边是使用了本地地址 首先在魔搭社区选择需要的文件git 拉取到本地
第一次需要安装git-lfs

git lfs install

然后选择需要的模型地址git clone即可

文件映射

由于我们使用的是docker部署的llamafactory，因此调用模型前，需要将本地的模型文件夹映射到docker镜像中，建议一并设置多个路径用以存放微调后的模型文件，命令行中输入多个映射对即可

docker run -v <本地存放目录>:<容器目录> <镜像名称>  <本地存放目录>:<容器目录> <镜像名称>

然后在模型路径中填写该文件在docker镜像的地址

继续选择参数

在这里插入图片描述

数据集设置

提示模板一定要选取，不同模型对应的模板也是不尽相同的，如果有自定义格式文件，可导入到镜像中，然后在data_info.json中进行注册,否则无法在列表选择

在这里插入图片描述
然后是比较关键的几个参数，对训练结果影响巨大

在这里插入图片描述
选择数据集后，学利率可以选择默认5e-5

#学习率
#学习率越低，训练越准确，相应的时间会更长
#对于llama3.1-8b 选择低一点的学习率比较好

#轮数
#训练轮次

#最大样本数
#即为'训练时在提供的每个数据集最多提取多少个样子进行训练'
#数据集较多的情况下建议适当设置更小的参数

训练轮数（！！！）

轮数的设置 目前没有更好的办法，全凭经验对新手是不友好的，比较推荐的方案是设置一个相当大的轮数，在训练过程中关注loss曲线，当曲线越趋近于平滑，说明训练已经接近完成，此时应手动停止训练以避免过拟合

在这里插入图片描述

当然也支持命令行调用训练的方式

在这里插入图片描述

测试和导出

切换chat Tab

在这里插入图片描述
补全上次训练的检查点路径加载，即可发起对话，此时您可以初步判断训练效果了（留坑，后续更新ragas评估）
切换export Tab ，选择上次训练的检查点，填写导出目录（注意：需填写docker镜像内部目录），如果您目录已经映射本地，则可以在本地文件中查看到训练后的safetensors文件 在这里插入图片描述

llamafactory就到此完成，后续会更新借助llama.cpp的量化和ollama部署

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

LLaMA Factory添加新模型template的实战解析
herosunly的博客
07-29 17万+
本文主要介绍了LLaMA Factory添加新模型template的实战解析，希望对使用大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 实战解析 2.1 检查代码 2.2 修改代码
LLaMA Factory多卡微调的实战教程（持续更新）
热门推荐
herosunly的博客
06-12 23万+
本文主要介绍了LLaMA Factory多卡微调的实战教程（持续更新），希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 2.4 配置多卡环境 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调 3.3.1 zero3微调 3.3.2 启动API 3.3.3 模型测试
人工智能-大模型-基于LLAMA2的增量预训练藏文大语言模型
10-21
基于LLAMA2的增量预训练藏文大语言模型 本项目通过基于LORA的参数高效微调方法，训练了Tibetan-Llama2和Tibetan-Alpaca藏文大语言模型，分别包括7B和13B两种规模，以上模型是基于Llama2模型架构构建的，经过较大规模数据的增量预训练和指令微调，具备了对藏文的深入理解和处理能力。
使用LLaMA-Factory快速训练自己的专用大模型
2401_85373396的博客
09-03 1314
本文聊聊 LLama-Factory，它是一个开源框架，这里头可以找到一系列预制的组件和模板，让你不用从零开始，就能训练出自己的语言模型（微调）。不管是聊天机器人，还是文章生成器，甚至是问答系统，都能搞定。而且，LLama-Factory 还支持多种框架和数据集，这意味着你可以根据项目需求灵活选择，把精力集中在真正重要的事情上——创造价值。使用LLama-Factory，常见的就是训练LoRA模型，增强模型在某方面的生成能力。
一文彻底搞懂大模型 - LLaMA-Factory
最新发布
Cairo_A的博客
03-11 763
提供了一套完整的工具和接口，使得用户能够轻松地对。
微调神器LLaMA-Factory官方保姆级教程来了，从环境搭建到模型训练评估全覆盖
lqfarmer的博客
07-06 4262
数据集的格式要求在不同的阶段是不同的，本教程以sft阶段的数据集需求，将以系统自带的identity数据集和将自定义的一个商品文案生成数据集为例，介绍数据集的使用。更多详情可以在https://github.com/hiyouga/LLaMA-Factory/blob/main/data/README_zh.md 中找到相关解释。系统目前支持 alpaca 和sharegpt两种数据格式，以alpaca为例，整个数据集是一个json对象的list，具体数据格式为。
用 LLama-Factory 训练和微调 LLama3，打造你的专属 AI 模型！
数智笔记
05-19 2439
微调模型涉及调整预训练或基础模型的参数，使其能够用于特定任务或数据集，从而提升其性能和准确性。这个过程包括为模型提供新的数据，并修改其权重、偏差和某些参数以最小化损失和成本。通过这样做，这个新模型可以在任何新任务或数据集上表现良好，而无需从头开始，从而节省时间和资源。通常，当一个新的大型语言模型（LLM）创建时，它会在一个大型文本数据语料库上进行训练，其中可能包含潜在有害或不良内容。在预训练或初始训练阶段之后，模型会被微调加入安全措施，确保其避免生成有害或不良的响应。然而，这种方法并非完美无缺。
LLaMA-Factory 微调训练
qq_45437316的博客
05-21 1957
1，vllm安装很多坑，pytorch版本和cuda版本必须保持一致兼容，使用pytoch的docker镜像可用省事很多，先看pytorch的版本，pytorch版本11.8，12.1，最好是cuda11.8版本的cuda和torch。三，vllm部署（不一定是llama3的模型，自己根据 llama3_vllm.yaml 配置修改就行，配置文件中也可用修改用huggingface部署）2，vllm启动会预先分配一定的显存，也可用自行修改，如还有其他应用要启动，可用调低一些。1，数据集的准备和配置。
LlamaFactory 一键式LLM训练、微调工具介绍与实践
h1453586413的博客
08-23 1583
LlamaFactory架构LlamaFactory主要通过Trainer类来实现训练流程，通过设置数据集、模型选型、训练类型、微调超参、模型保存，以及训练状态监控等信息，来开启训练。支持的训练方法支持的训练方法（这里的Pre-Training指的是增量预训练）LlamaFactory和其他框架对比LlamaFactory基于PEFT和TRL进行二次封装，从而可以快速开始SFT和RLHF微调。同时，引入GaLore和Unsloth等方案，能降低训练显存占用。
LLaMA Factory多卡微调的实战教程
herosunly的博客
04-25 19万+
本文主要介绍了LLaMA Factory多卡微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 2.4 配置多卡环境 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调 3.3.1 zero3微调 3.3.2 启动API 3.3.3 模型测试
大模型三阶段训练方法(LLaMa Factory)
2401_85373691的博客
12-24 2873
根据LLaMa-Factory的README，我们需要在中按照以下格式注册自定义的数据集。"数据集名称": { "file_name": "data.json", "columns": { "prompt": "text" } }我们在在},在中，注册新添加的数据集。},
AI智能体研发之路-模型篇（一）：大模型训练框架LLaMA-Factory在国内网络环境下的安装、部署及使用
人工智能领域博客
05-14 1万+
本文先对LLaMA-Factory项目进行介绍，之后逐行详细介绍了该项目在国内网络环境下如何安装、部署，最后以Baichuan2-7B为例，通过讲解训练参数的方式详细介绍了基于LLaMA-Factory WebUI的大模型微调训练。篇幅有限，专栏内会持续更新，详细介绍大模型微调训练方法。如果觉得对你有帮助，期待您的关注，点赞、收藏或评论，您的支持是我持续码字的动力。
llama-factory训练RLHF-PPO模型
weixin_42479327的博客
06-29 8552
除了ppo, dpo(Direct Preference Optimization:直接偏好优化)也是一种常见的调优手段, 不过多篇paper研究证明性能不如PPO, 在计算资源不足的情况下DPO也是个不过的选择,因为不需要训练奖励模型, 而且训练速度快,效果也比较稳定, 不像PPO那样很容易训崩.其他LLM偏好对齐训练技术还有ORPO,IPO,CPO以及效果看起来很棒的KTO.还有最新发表的RLOO,看起来比PPO更好更易训练.这个领域发展太快, 脑子快不够用了.
LLaMA-Factory全流程训练模型
小森的博客
11-11 5651
我们在 LLaMA-Factory/examples下创建 train.yaml 文件，这是微调训练模型的配置文件。整个训练数据集被模型完整遍历的次数，一个 epoch 包含多个批次（batch）。模型参数梯度的范数，反映梯度的大小，用于监控梯度爆炸或梯度消失的问题。: 训练过程中总共计算的浮点运算次数（2906404 亿次浮点运算）。: 每秒处理的批次数（5.277 个批次/秒）。: 训练的总轮次（3.0 个 epoch）。: 训练过程中的平均损失值（1.0846）。随后会生成一些指引，默认安装就行。
大模型高效训练一体框架 LLaMA Factory
2401_85375186的博客
01-17 1405
LLaMA-Factory 集成了众多优化方法，使用时不再需要繁琐的代码编写，仅需在网页上操作即可实现算法调用。框架结合了前面提到的 Flash Attention、GPTQ 作为核心算子，还集成了 LoRA 及其各种变体。基于这些算法，提供了大模型预训练、SFT、RLHF、DPO、SimPO 等优化策略，可以运行于 NVIDIA、Ascend、AMD 以及 Mac 等硬件之上。核心产品名为 LLaMA Board，通过可视化界面可实现零代码的模型微调。
使用 LlamaFactory 框架训练 Meta Llama3
大模型
09-15 1331
Amazon SageMaker 是一项机器学习服务，可帮助数据科学家和开发人员快速准备机器学习模型。它提供了全面的工具集，涵盖了从构建、训练到部署机器学习模型的整个过程，其功能涵盖了机器学习全流程，提供了完整的工具集，使数据科学家和开发人员能够快速构建、训练和部署机器学习模型，并持续优化模型性能。模块化设计，最小化了模型、数据集和训练方法之间的依赖，能够灵活地微调 100 多种预训练 LLM。
llamafactory教程
01-14
### LLaMa-Factory 使用指南 #### 安装环境准备 为了顺利使用LLaMa-Factory进行模型微调，在Ubuntu环境下需先完成一系列准备工作，包括但不限于安装必要的依赖包以及配置开发环境。对于初学者而言，官方提供的新手教程详细介绍了如何在Linux系统中搭建适合于运行该框架的工作站设置[^1]。 #### 模型微调流程概述 通过LLaMa-Factory可以轻松实现对大型语言模型（如LlaMA 3）的定制化调整。具体操作涉及加载预训练权重文件、定义目标任务并准备相应的训练数据集等环节。整个过程中Python脚本起到了核心作用，利用其简洁明了的语言特性来构建完整的机器学习流水线[^2]。 #### 实际案例分享 一篇详细的中文版笔记记录了一位实践者从零开始直至成功完成基于LLaMa-Factory平台上的模型优化全过程的经历。这份文档不仅涵盖了理论知识讲解还附带了大量的实战技巧指导，非常适合想要深入了解此领域的朋友参考学习。 #### 集成Hugging Face Transformers库 考虑到兼容性和扩展性的需求，许多开发者会选择引入由[HuggingFace](https://github.com/huggingface/transformers)维护的`transformers`库作为辅助工具之一。这个开源项目因其广泛的支持范围而备受青睐，能够有效简化诸如迁移学习在内的多种复杂任务的操作难度[^3]。 ```python from transformers import AutoModelForCausalLM, Trainer, TrainingArguments model_name_or_path = "path_to_your_model" tokenizer_name = model_name_or_path if model_name_or_path else 'facebook/llama' training_args = TrainingArguments( output_dir='./results', num_train_epochs=3, per_device_train_batch_size=8, save_steps=10_000, ) trainer = Trainer( model=model, args=training_args, train_dataset=train_dataset, ) ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值