LLaMA-Factory——开源大模型微调框架，支持高效微调DeepSeek

最新推荐文章于 2025-04-15 10:41:27 发布
最新推荐文章于 2025-04-15 10:41:27 发布
阅读量646 收藏 22
点赞数 11
文章标签： llama 人工智能 大模型应用 LLM langchain AI大模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/DEVELOPERAA/article/details/147119574
版权

LLaMA-Factory 是一个开源的大模型微调框架，旨在为研究人员和开发者提供一个高效、灵活且易于使用的工具，用于对各种大规模语言模型（LLMs）进行微调。该项目支持多种模型架构、训练方法和数据集，适用于不同的应用场景和硬件环境，极大地降低了大模型微调的门槛。

图片

图片

开源地址：https://github.com/hiyouga/LLaMA-Factory

开源协议：Apache-2.0

01.项目介绍 LLaMA-Factory

多样性支持

  • 多种模型：支持 LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、DeepSeek、Yi、Gemma、ChatGLM、Phi 等众多主流大模型。

  • 集成方法：涵盖（增量）预训练、（多模态）指令监督微调、奖励模型训练、PPO 训练、DPO 训练等多种训练方法。

  • 多种精度：支持 16 比特全参数微调、冻结微调、LoRA 微调以及基于量化技术的 2/3/4/5/6/8 比特 QLoRA 微调。

先进技术集成

  • 先进算法：集成了 GaLore、BAdam、APOLLO、Adam-mini、DoRA、LongLoRA、LLaMA Pro 等先进优化算法。

  • 实用技巧：采用 FlashAttention-2、Unsloth、Liger Kernel 等技术提升训练效率和性能。

广泛任务适配

适用于多轮对话、工具调用、图像理解、视觉定位、视频识别和语音理解等多种任务场景。

实验监控与推理

  • 实验监控：支持 LlamaBoard、TensorBoard、Wandb、MLflow、SwanLab 等多种实验监控工具。

  • 极速推理：基于 vLLM 实现 OpenAI 风格 API、浏览器界面和命令行接口，提供高效的推理能力。

02.支持模型与训练准备支持的模型

涵盖多种主流大模型，包括但不限于：

模型名

参数量

Template

Baichuan 2

7B/13B

baichuan2

BLOOM/BLOOMZ

560M/1.1B/1.7B/3B/7.1B/176B

-

ChatGLM3

6B

chatglm3

Command R

35B/104B

cohere

DeepSeek (Code/MoE)

7B/16B/67B/236B

deepseek

DeepSeek 2.5/3

236B/671B

deepseek3

DeepSeek R1 (Distill)

1.5B/7B/8B/14B/32B/70B/671B

deepseek3

Falcon

7B/11B/40B/180B

falcon

Gemma/Gemma 2/CodeGemma

2B/7B/9B/27B

gemma

GLM-4

9B

glm4

GPT-2

0.1B/0.4B/0.8B/1.5B

-

Granite 3.0-3.1

1B/2B/3B/8B

granite3

Index

1.9B

index

InternLM 2-3

7B/8B/20B

intern2

Llama

7B/13B/33B/65B

-

Llama 2

7B/13B/70B

llama2

Llama 3-3.3

1B/3B/8B/70B

llama3

Llama 3.2 Vision

11B/90B

mllama

LLaVA-1.5

7B/13B

llava

LLaVA-NeXT

7B/8B/13B/34B/72B/110B

llava_next

LLaVA-NeXT-Video

7B/34B

llava_next_video

MiniCPM

1B/2B/4B

cpm/cpm3

MiniCPM-o-2.6/MiniCPM-V-2.6

8B

minicpm_o/minicpm_v

Ministral/Mistral-Nemo

8B/12B

ministral

Mistral/Mixtral

7B/8x7B/8x22B

mistral

Mistral Small

24B

mistral_small

OLMo

1B/7B

-

PaliGemma/PaliGemma2

3B/10B/28B

paligemma

Phi-1.5/Phi-2

1.3B/2.7B

-

Phi-3/Phi-3.5

4B/14B

phi

Phi-3-small

7B

phi_small

Phi-4

14B

phi4

Pixtral

12B

pixtral

Qwen/QwQ (1-2.5) (Code/Math/MoE)

0.5B/1.5B/3B/7B/14B/32B/72B/110B

qwen

Qwen2-Audio

7B

qwen2_audio

Qwen2-VL/Qwen2.5-VL/QVQ

2B/3B/7B/72B

qwen2_vl

Skywork o1

8B

skywork_o1

StarCoder 2

3B/7B/15B

-

TeleChat2

3B/7B/35B/115B

telechat2

XVERSE

7B/13B/65B

xverse

Yi/Yi-1.5 (Code)

1.5B/6B/9B/34B

yi

Yi-VL

6B/34B

yi_vl

Yuan 2

2B/51B/102B

yuan

训练准备

支持多种训练方法，包括预训练、指令监督微调、奖励模型训练等，且每种方法都支持全参数训练、部分参数训练、LoRA 和 QLoRA。

数据集

提供丰富的预训练数据集和指令微调数据集，如 Wiki Demo、RefinedWeb、Stanford Alpaca、Glaive Function Calling V2、BELLE 系列等，满足不同任务需求。

软硬件依赖

软件依赖

必需项

至少

推荐

python

3.9

3.10

torch

1.13.1

2.5.1

transformers

4.41.2

4.49.0

datasets

2.16.0

3.2.0

accelerate

0.34.0

1.2.1

peft

0.11.1

0.12.0

trl

0.8.6

0.9.6

可选项

至少

推荐

CUDA

11.6

12.2

deepspeed

0.10.0

0.16.2

bitsandbytes

0.39.0

0.43.1

vllm

0.4.3

0.7.3

flash-attn

2.3.0

2.7.2

硬件依赖

根据不同精度和模型规模，对硬件要求有所不同。例如，对于 4 比特 QLoRA 微调，7B 模型需要约 6GB 显存，13B 模型需要约 12GB 显存。

图片

应用场景

LLaMA-Factory 可广泛应用于多种领域，如广告文案生成、多轮对话系统、工具调用智能体、图像理解与分析、视频内容识别、语音指令理解等，为各行业提供强大的语言模型微调解决方案。

 如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！

在这个版本当中：

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型教程已经给大家整理并打包，现在将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

​

 

LLM大模型
关注
LLaMA Factory单机微调的实战教程
herosunly的博客
04-24 20万+
本文主要介绍了使用LLaMA Factory对大模型进行单机微调的实战教程，希望对学习大语言模型的同学们有所帮助。 文章目录 1. 前言 2. 配置环境 2.1 安装虚拟环境 2.2 安装依赖库 2.3 模型选型与下载 3. 运行代码 3.1 构建训练数据 3.2 修改配置文件 3.3 微调
都来学，给AI Agent初学者的10节课
xiezhipu的博客
03-24 529
是一个旨在帮助初学者学习构建 AI 代理的课程仓库。该仓库提供了 10 节课程，全面覆盖了构建 AI 代理所需的基础知识。
【03】LLaMA-Factory微调大模型——多模型部署
H66778899的博客
07-17 3361
【03】LLaMA-Factory微调大模型——多模型部署
【微调大模型】如何利用开源大模型，微调出一个自己大模型
Z4400840的博客
11-20 1638
最近对大模型这部分内容比较感兴趣，作者最早接触大模型是22年下半年的时候。当时觉得非常amazing，并认为这是一个颠覆性的工作，目前随着开源大模型的逐渐变多。我觉得我们得学习并了解这些基础知识，以便后续在工作中可以学习并使用。在深度学习中，微调是一种重要的技术，用于改进预训练模型的性能。除了微调ChatGPT之外，还有许多其他预训练模型可以进行微调。微调所有层：将预训练模型的所有层都参与微调，以适应新的任务。微调顶层：只微调预训练模型的顶层，以适应新的任务。冻结底层。
一文彻底搞懂大模型 - LLaMA-Factory
Z4400840的博客
10-07 2871
如何高效地微调和部署大型语言模型（LLM）？LLaMA-Factory作为一个开源的微调框架，应运而生，为开发者提供了一个简便、高效的工具，以便在现有的预训练模型基础上，快速适应特定任务需求，提升模型表现。LLaMA-Factory作为一个功能强大且高效的大模型微调框架，通过其用户友好的界面和丰富的功能特性，为开发者提供了极大的便利。
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
2301_81888214的博客
02-13 757
别只会用别人的模型了，自学Ai大模型，顺序千万不要搞反了！刚入门的小白必备！
112页！DeepSeek 7大场景+50大案例+全套提示词 从入门到精通干货
qq_46094651的博客
02-14 392
通过 7 大场景和 50 大案例，知晓在日常生活、家庭教育、职场等领域的具体用法；借助全套提示词，学会与 DeepSeek 有效沟通，提高使用效率，解决各类实际问题。三、日常生活中，可以用 deepseek 解决哪些问题?五、职场工作中，可以用 deepseek 解决哪些问题?六、老板创业者，可以用 deepseek 解决哪些问题?四、家庭教育，可以用 deepseek 解决哪些问题?七、自媒体人，可以用 deepseek解决哪些问题?八、如何把 deepseek 变成你的私人投顾?
8月最新大语言模型新书！赵宇教授《自然语言处理：大模型理论与实践》449页pdf！
Y525698136的博客
08-26 566
在当今的人工智能时代，NLP技术已经深入渗透到我们日常生活的各个方面，从智能助手、语音识别到机器翻译和文本生成，NLP正在以令人瞩目的速度改变着我们的生活方式。
AI Agents for Beginners —— 从零开始构建你的 AI 代理
注重AI领域前沿发展
04-14 883
AI Agents for Beginners》是一个专为初学者设计、内容丰富且实践性强的开源项目，通过分阶段的课程带领你逐步理解和掌握 AI 代理的核心技术。从基础概念到实战部署，每一节课都是一个充满启发的学习过程。无论你是技术新人，还是希望拓展技能的开发者，都能从中收获满满。
【Qwen2微调实战】LLaMA-Factory框架对Qwen2-7B模型的微调实践
热门推荐
寻道AI，探索AI无限可能！
07-29 2万+
在人工智能的浪潮中，大型语言模型（LLMs）正逐渐成为研究和应用的热点。它们在自然语言处理（NLP）的各个领域，如文本生成、翻译、问答等任务中展现出了卓越的能力。Qwen2-7B模型，作为该领域的佼佼者，不仅因其庞大的参数量和强大的表示能力受到关注，更因其在微调后能够更好地适应特定任务而备受关注。本文将详细介绍如何利用LLaMA-Factory这一高效的微调框架对Qwen2-7B进行微调，以期达到提升模型在特定任务上的表现。
【02】LLaMA-Factory微调大模型——LLaMA-Factory搭建
H66778899的博客
07-16 2811
【02】LLaMA-Factory微调大模型——LLaMA-Factory搭建
9、LLaMA-Factory项目微调介绍
Andy_shenzl的博客
08-28 2643
LLaMA Factory是一个在GitHub上开源的项目，该项目给自身的定位是：提供一个易于使用的大语言模型（LLM）微调框架，支持LLaMA、Baichuan、Qwen、ChatGLM等架构的大模型。更细致的看，该项目提供了从预训练、指令微调到RLHF阶段的开源微调解决方案。截止目前（2024年3月1日）支持约120+种不同的模型和内置了60+的数据集，同时封装出了非常高效和易用的开发者使用方法。
AI Agents for Beginners —— 初学者构建智能代理的入门利器
注重AI领域前沿发展
04-11 613
随着人工智能（AI）技术的快速发展，越来越多的开发者和技术爱好者希望能够亲手实践构建智能代理系统，实现自主决策和交互。微软推出的 AI Agents for Beginners 项目正是为此而生。本文将带大家全面解读这一项目的核心功能、应用场景及使用方法，帮助初学者快速入门 AI 代理系统开发，并对比介绍类似 KrillinAI 项目的设计理念。
ai-agents-for-beginners：入门AI Agent开发者的核心课程
gitblog_00671的博客
03-25 775
ai-agents-for-beginners：入门AI Agent开发者的核心课程 ai-agents-for-beginners 这个项目是一个针对初学者的 AI 代理课程，包含 10 个课程，涵盖构建 AI 代理的基础知识。源项目地址：https://github.com/microsoft/ai-agents-f...
AI：AI-For-Beginners(Microsoft的人工智能课程=符号AI+神经网络+计算机视觉+自然语言处理)的简介、使用方法之详细攻略
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
03-18 3032
​ AI：AI-For-Beginners(Microsoft的人工智能课程=符号AI+神经网络+计算机视觉+自然语言处理)的简介、使用方法之详细攻略 目录 AI-For-Beginners(Microsoft课程)的简介 AI-For-Beginners(Microsoft课程)的使用方法 AI-For-Beginners(Microsoft课程)的简介 探索微软的12周、24课时的课程，进入人工智能的世界！深入了解符号AI、神经网络、计算机视觉、自然语言处理等。动手实验、测验和实验室增
《DeepSeek 从入门到精通》｜7 大场景 ×50 案例 × 全场景提示词｜AI 效率革命必备神器！
yeahmana的博客
02-12 400
本书整合 20 + 行业实测精华，咖啡钱就能 Get 年薪 30W 的 AI 办公技能！🟢 场景全覆盖：职场汇报 / 论文润色 / 代码生成 / 自媒体爆款 / 商业分析 / 跨境电商 / 生活助手。《DeepSeek 从入门到精通》｜7 大场景 ×50 案例 × 全场景提示词｜AI 效率革命必备神器！🟢 50 个高能案例：附赠可直接套用的【场景化提示词模板库】🟢 完整实操路径：认知→提示词→案例→避坑指南四步闭环。✨ 被 Deadline 追杀的职场人。✨ 想涨粉 10W + 的内容创作者。
大模型书籍丨西南财经大学：《自然语言处理：大模型理论与实践》
最新发布
Y525698136的博客
04-15 1001
大模型书籍丨西南财经大学：《自然语言处理：大模型理论与实践》
llama-factory微调开源模型
02-19
### 使用 LLama-Factory 微调开源模型 #### 准备环境与安装依赖 为了使用 LLama-Factory 对开源模型进行微调，首先需要准备合适的开发环境并安装必要的软件包。这通常涉及到设置 Python 虚拟环境以及安装 PyTorch 和其他依赖项。 #### 配置训练参数文件 配置文件定义了用于微调的具体参数和选项。对于 `Llama3-8B-Instruct` 模型而言，可以通过 YAML 文件指定这些细节[^1]： ```yaml model_name_or_path: "path_to_model" output_dir: "./results" per_device_train_batch_size: 4 gradient_accumulation_steps: 2 learning_rate: 5e-6 num_train_epochs: 3 logging_dir: './logs' ``` 此配置示例展示了如何调整批量大小、学习率和其他超参数来优化训练过程。 #### 执行微调操作 一旦完成了上述准备工作，则可通过 CLI 命令执行实际的微调流程。具体来说，就是运行如下命令来进行基于 LoRA 的微调工作[^3]: ```bash CUDA_VISIBLE_DEVICES=0 llamafactory-cli train examples/lora_single_gpu/llama3_lora_sft.yaml ``` 这条指令指定了 GPU 设备编号，并加载预设好的配置文件路径以启动训练任务。 #### 进行推理测试 完成微调之后，可以立即对该改进后的模型做初步评估。同样借助于 CLI 工具，只需更改子命令即可切换到推理模式: ```bash CUDA_VISIBLE_DEVICES=0 llamafactory-cli chat examples/inference/llama3_lora_sft.yaml ``` 该命令允许用户与经过微调的大规模语言模型交互对话，从而直观感受其表现变化。 #### 合并权重保存成果 最后一步是将原始模型与新学到的知识相结合，形成最终版本供后续部署或进一步迭代之用。这一环节也十分简单明了: ```bash CUDA_VISIBLE_DEVICES=0 llamafactory-cli export examples/merge_lora/llama3_lora_sft.yaml ``` 通过这种方式能够有效地保留所有更新过的参数而不会丢失原有结构特性。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值