打造自己的大模型-02篇｜LoRA微调大模型的评测和导出

最新推荐文章于 2025-06-12 16:50:08 发布
最新推荐文章于 2025-06-12 16:50:08 发布
阅读量768 收藏 13
点赞数 16
文章标签： 人工智能 LLM 大模型 自然语言处理 微调 本地化部署 私有化部署
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/pythonhy/article/details/148584907
版权

在之前的的文章《打造自己的大模型｜01篇LLaMA-Factory微调Llama3和其占用资源分析》，我们通过训练了9.5小时，完成了Llama3-8B-Instruct的LoRA 微调训练。

本篇文章，我们将继续利用LLaMA-Factory，进行大模型的评测和导出。

训练文件保存的文件夹

保存在默认的文件夹位置，主要文件有：adapter_model.safetensors，保存着LoRA微调Adapter层的权重参数。

在这里插入图片描述

加载Adapter参数并对话

选择适配器路径，点击Chat，加载LoRA的Adapter层参数：

在这里插入图片描述

在这里插入图片描述

对话结果，现在回答默认都是中文了。但是存在一些数据污染，将自己识别成Google创造出来的了：

在这里插入图片描述

在这里插入图片描述

评测微调的大模型

一般微调之后的大模型，我们都需要评估他的性能，和是否满足我们测试数据集和业务的目标。

利用LLaMA-Factory可视化页面上的，Evaluate&Predict页面，选择的测试数据集是另一个中文语料，alpaca_gpt4_zh：

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

占用的显存大小和运行时间：

设置了Batch-Size=2的原因，占用的显存空间会比较大。

在这里插入图片描述

总体的运行时间是2小时。

在这里插入图片描述

评测的结果保存：

在这里插入图片描述

在这里插入图片描述

合并导出微调的大模型

将我们的基座大模型Llama3-8B-Instruct和微调的Adapter层参数合并，并导出：

在这里插入图片描述

如果采用cuda导出模型，则需要大量的显存，24GB显存的A100单卡上运行，会出现OOM，内存溢出的问题。

所以我们需要选择CPU导出。

导出的结果和文件夹内容，和基座大模型的文件一致：

在这里插入图片描述

直接对话合并导出的大模型

在这里插入图片描述

在这里插入图片描述

对话结果，效果与加载Adapter参数的相似：

在这里插入图片描述

在这里插入图片描述

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享**（安全链接，放心点击）**👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例
阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望
阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍
阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享**（安全链接，放心点击）**👈

​

Llama-Turbo
关注
【LLM】金融场景的大模型Lora微调实战
发现问题，并解决问题，批判性思维
07-08 9086
金融行业需要垂直领域LLM，因为存在金融安全和数据大多数存储在本地，在风控、精度、实时性有要求 （1）500亿参数的BloombergGPT BloombergGPT金融大模型也是用transformer架构，用decoder路线， 构建目前规模最大的金融数据集FINPILE，对通用文本+金融知识的混合训练。 用了512块40GB的A100 GPU，训练中备份了4个模型，每个模型分了128块GPU。 （2）度小满5月的【源轩大模型】 使用hybrid-tuning方式，首个千亿参数金融大模型 在通用能力评测
AI大模型探索之路-训练篇25：ChatGLM3微调实战-基于LLaMA-Factory微调改造企业级知识库
热门推荐
寻道AI，探索AI无限可能！
05-20 1万+
在当前信息技术迅猛发展的时代，知识库的构建与应用已成为企业竞争的关键。随着自然语言处理技术的不断进步，基于微调的企业级知识库改造落地方案受到越来越多的关注。在前面的系列篇章中我们分别实践了基于CVP架构-企业级知识库实战落地和基于基于私有模型GLM-企业级知识库开发实战；本文将深入探讨和实践一种基于微调技术的企业级知识库改造方法，以期为企业提供更加高效、安全和可靠的知识管理解决方案。
零基础入门：DeepSeek微调的评测教程来了！
z551646的博客
03-06 944
大模型评测是一个系统工程，本文希望通过比较通俗的方式给大家直观感受大模型微调后的效果，相关是思路想法旨在起到抛砖引玉的效果，如果学习者对大模型评测有深厚的兴趣，可以从不同的角度进行学习。三天前，看到了我们公众号上发了文章《零基础入门：DeepSeek 微调教程来了！》反响很好，其中的内容写的非常接地气，适合学习者进行学习体验。于是，我尝试在那篇文章的基础上进行了复现，并对内容进行了一些延伸，帮助读者更加直观的感受大模型微调对模型的调整。
打造自己的大模型｜02篇LoRA微调大模型的评测和导出
Langchain的博客
08-23 1408
在之前的的文章《打造自己的大模型｜01篇LLaMA-Factory微调Llama3和其占用资源分析》，我们通过训练了9.5小时，完成了Llama3-8B-Instruct的LoRA。本篇文章，我们将继续利用LLaMA-Factory，进行大模型的评测和导出。
大模型微调02-使用LLaMA-Factory进行lora微调
Javis486的专栏
03-19 626
数据使用一个医疗诊断数据medical-o1-reasoning-SFT，先把数据转换为LLaMA-Factory支持的Alpaca数据格式,并划分数据集，4060显卡只有8G，这里取2000个样本训练，200个样本验证。在LLaMA-Factory的安装目录下运行如下目录，方便后面选择数据集，比如我的目录为D:\LeStoreDownload\LLaMA-Factory-0.9.2\LLaMA-Factory-0.9.2。因为我们是基于lora训练的，所以训练完成后，要把基座模型和检查点的权重进行合并。
【大模型系列篇】大模型微调工具 LLama-Factory、Unsloth、ms-SWIFT
木亦汐丫
02-26 2575
入手学习大模型微调，首先推荐功能层次封装层次较高的微调三剑客：Unsloth、 Llama-Factory和ms-SWIFT。除此之外，也可以借助更加底层的库，如peft、 LoRA、 transformer等实现高效微调。
大模型微调新范式：当LoRA遇见MoE
lvaolan123456的博客
06-18 1304
▲ 左侧：原始版本的 LoRA，权重是稠密的，每个样本都会激活所有参数；右侧：与混合专家（MoE）框架结合的 LoRA，每一层插入多个并行的 LoRA 权重（即 MoE 中的多个专家模型），路由模块（Router）输出每个专家的激活概率，以决定激活哪些 LoRA 模块。由于大模型全量微调时的显存占用过大，LoRA、Adapter、IA 这些（Parameter-Efficient Tuning，简称）方法便成为了资源有限的机构和研究者微调大模型的标配。
一个强大的LLM微调工具 LLaMa-Factory：手把手教你从零微调大模型
u014543416的博客
01-03 2281
LLaMa-Factory项目定位是微调工具，目标是整合当前主流的各种高效训练微调技术，适配市场主流的开源模型，形成一个功能丰富，适配性好的训练框架。本次记录基于自身使用llama-factory，简单记录从环境部署到训练及推理的过程。
基于LLaMA-Factory和Easy Dataset的Qwen3微调实战：从数据准备到LoRA微调推理评估的全流程指南
丨汀、的博客
06-03 1285
基于LLaMA-Factory和Easy Dataset的Qwen3微调实战：从数据准备到LoRA微调推理评估的全流程指南
【大模型微调与部署】基于llama-factory的大规模语言模型微调及量化部署全流程指南
06-09
最后，文档阐述了模型的批量推理、部署（包括LoRA模型合并导出、格式转换、ollama安装与使用）、以及API服务的启动和调用方法。 适合人群：具备一定深度学习和自然语言处理基础的研发人员，尤其是对大模型微调和部署...
【06】LLaMA-Factory微调大模型——微调模型评估
H66778899的博客
07-19 9112
【06】LLaMA-Factory微调大模型——微调模型评估
原始的 P-Tuning 和 P-Tuning v2 在实现细节上有哪些不同
ZJQ的博客
06-10 1150
P-Tuning v2（2022） - **改进点**： - 在模型的每一层都添加软提示（类似 Prefix Tuning 的思路），而不只是输入层。 - **引入轻量级 MLP 层**：在预训练模型的输出后添加一个小型的多层感知机，增强分类能力。 - **结构特点**： ``` 输入文本 + 软提示 → 预训练LM → MLP层 → 分类输出 ``` MLP 通常由 1-2 层线性层组成，参数量远小于全量微调。
二维张量dim=1
GHL_17768588743的博客
06-11 673
在PyTorch中处理二维张量（矩阵）时，‌dim=1‌，也就是逐行处理每一行的所有列元素。
扣子开发汽车行业智能客服示例
brucexia的专栏
06-11 1232
在本节中，我们想要创建一个AI客服，用于介绍汽车领域的行业知识，因此需要利用知识库的能力。首先，梳理汽车行业知识，形成FAQ（常见问题解答）。然后，将其上传到知识库中。最后，将知识库配置到AI Agent智能体中，使其能够调用知识库的内容作为回复。完成以上步骤之后，当用户咨询Agent有关汽车领域知识的问题时，Agent将根据FAQ的内容进行回答。传统的机器人客服只能生硬地套用FAQ，缺乏灵活性。
简繁体智能翻译软件
weixin_62784879的博客
06-09 653
以常见物品为例：内地称\"创口贴\"，香港称\"胶布\"，台湾称\"OK绷\"；汽车品牌\"奔驰\"在香港译作\"平治\"、台湾译作\"宾士\"，这类词汇差异需要额外认知成本。该工具内置智能词库系统，能自动识别并转换具有地区特色的用词表达，实现内地、香港、台湾三地语言习惯的精准转换。针对台湾地区使用的注音符号（如ㄅㄆㄇㄈ）及网络流行的火星文等特殊文字形式，提供对应的转换方案。这款工具还有许多功能，我就不一一介绍啦。
大模型Transformer触顶带来的“热潮退去”，稀疏注意力架构创新或是未来
打造全国最全的AI Agent开发知识领域的博客
06-11 1643
大模型狂欢落幕，硬核创新登场！Transformer逼近能力天花板，Agent应用成落地新大陆，而架构层正孕育颠覆性突破。中国团队在云端与终端双轨并进，用稀疏注意力、端侧推理优化打开效率魔盒。告别内卷式数据堆砌，迎接深水区技术创新——这一篇，看懂AI未来十年胜负手！
破局零售挑战！华为云AI+零售峰会聚焦数智转型实践
最新发布
weixin_43735236的博客
06-12 170
该方案面向零售伙伴客户物流、运营、门店、客服和办公等场景，依托华为云最新发布的CloudDevice关键产品和自有AI大模型，在云上服务方面具备一跳入云、一云多端、极低时延、普惠AI等方面的优势，可为零售伙伴客户筑牢算力底座，满足零售伙伴客户“产-供-营-销-服”全链路智能化核心需求。该计划面向全国数智化企业，汇聚华为云及合作伙伴在政策、产品、技术、品牌等方面的资源与能力，向伙伴开放能力共生、商业共赢和数字化服务三大平台，为零售企业的品牌营销与业务运营提供强大技术支撑，加速企业成长。6月13日，鹭岛厦门！
（五）动手学深度学习计算：从数学原理到高效实现的全流程指南
hanyuge的专栏
06-08 897
在实际应用中，我们常常需要自定义层和块来实现特定的功能。PyTorch提供了灵活的API来创建自定义层和块。无参数层：实现不包含可学习参数的层，如激活函数层。return torch.sigmoid(x) # 示例：Sigmoid激活函数含参数层：实现包含可学习参数的层，如自定义的全连接层。组合层：将多个层组合成一个块，实现复杂的功能。return x层是深度学习模型的基本构建块，执行特定的计算任务。块是由多个层组成的模块，提高代码的可读性和可维护性。
CppCon 2015 学习:Algorithmic Differentiation C++ & Extremum Estimation
虾球
06-10 921
浮点数表示法的灵感：科学记数法浮点数的表示方法受到科学记数法的启发。x×baseexponentx×baseexponent6.022×10236.022×1023这种表示法使得我们能够处理非常大的数（如102310^{23}1023）以及非常小的数（如10−2310^{-23}10−23），并且有效地表示各种数值。
DeepSeek医疗大模型微调实战全流程
03-14
<think>好的，我现在要帮用户解答如何对DeepSeek医疗大模型进行微调的完整流程。首先，我需要回顾用户提供的引用内容，确保回答符合他们的资源。用户提到了三个引用，其中引用[1]提到DeepSeek基于Llama结构，哪些层参与LoRA微调；引用[2]和[3]则涉及微调实战指南，特别是环境准备和流程步骤。 用户的问题是关于医疗大模型的微调，所以需要将通用的微调流程与医疗领域结合。首先，我应该分步骤讲解流程，从环境准备到数据预处理、模型选择、参数配置、训练监控、评估部署等。同时，需要结合LoRA微调，因为引用[1]提到LoRA层，可能需要解释在DeepSeek模型中具体应用的部分，比如注意力层。 要注意用户可能关心医疗数据的特点，比如数据隐私、标注质量、领域术语等。在数据准备阶段，需要强调数据清洗和合规性。另外，参数设置部分，学习率、批次大小等可能需要针对医疗文本调整，比如较小的学习率避免过拟合。 可能的问题点：用户是否有足够的医疗数据集？是否需要领域适应的技巧？比如，使用预训练的医疗词向量或者领域特定的分词器。引用[3]提到需要安装特定的库，如peft、transformers，这些在环境准备时必须包括。 还需要考虑微调后的评估指标，比如在医疗任务上的准确率、召回率，或者特定的医学评测数据集。部署时，可能需要提到如何整合到医疗系统或API服务。 最后，生成的相关问题需要围绕医疗微调的挑战、数据增强、模型压缩等，确保覆盖用户可能感兴趣的扩展话题。</think>以下是对DeepSeek医疗大模型进行微调的完整流程指南，结合Llama架构特点与LoRA微调技术[^1][^3]： ### 一、环境准备 1. **硬件要求** - GPU显存建议≥24GB（如A10/A100） - 内存≥32GB - 存储空间≥100GB（医疗文本数据量较大） 2. **软件依赖** 安装核心库（引用[3]中的环境配置）： ```bash pip install peft transformers datasets torch accelerate bitsandbytes ``` ### 二、数据准备 1. **医疗数据集构建** - 来源：电子病历、医学文献、临床指南、药品说明书 - 格式要求： ```python { "instruction": "解释糖尿病发病机制", "input": "", "output": "糖尿病主要由胰岛素分泌不足或作用障碍引起..." } ``` 2. **数据预处理** - 去标识化处理（HIPAA合规） - 医学术语标准化（使用UMLS等医学本体） - 文本分段：将长文本按<2048 tokens切分 ### 三、模型配置 1. **LoRA层选择** 基于Llama架构特点（引用[1]），建议对以下层进行适配： ```python target_modules = [ "q_proj", "k_proj", "v_proj", # 注意力层的查询/键/值投影 "gate_proj", "up_proj", "down_proj" # FFN层 ] ``` 2. **参数配置示例** ```python from peft import LoraConfig lora_config = LoraConfig( r=8, # 秩 lora_alpha=32, target_modules=target_modules, lora_dropout=0.05, bias="none", task_type="CAUSAL_LM" ) ``` ### 四、训练流程 1. **加载预训练模型** ```python from transformers import AutoModelForCausalLM model = AutoModelForCausalLM.from_pretrained( "deepseek-llm/medical-base", load_in_4bit=True, # 4bit量化节省显存 device_map="auto" ) ``` 2. **训练参数设置** ```python training_args = TrainingArguments( output_dir="./results", per_device_train_batch_size=4, gradient_accumulation_steps=8, learning_rate=3e-5, num_train_epochs=3, fp16=True, logging_steps=50, optim="paged_adamw_32bit" ) ``` ### 五、监控与评估 1. **训练监控指标** - 损失曲线 - 显存利用率（确保<90%） - 医疗QA准确率（需准备验证集） 2. **医学专项评估** ```python from evaluate import load medqa_metric = load("medqa") results = medqa_metric.compute( predictions=preds, references=labels ) ``` ### 六、部署应用 1. **模型导出** ```python model.save_pretrained("./fine_tuned_model") tokenizer.save_pretrained("./fine_tuned_model") ``` 2. **推理优化** - 使用vLLM加速推理 - 部署医疗问答API： ```python from fastapi import FastAPI app = FastAPI() @app.post("/diagnose") async def diagnose(text: str): return {"response": pipeline(text)} ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值