XTuner 微调 LLM笔记

最新推荐文章于 2024-06-13 11:24:43 发布
最新推荐文章于 2024-06-13 11:24:43 发布
阅读量300 收藏
点赞数 3
文章标签： 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/2302_79146973/article/details/138049195
版权

 Finetune介绍

主要有两种微调范式，目的是使基座大模型成为垂直模型

什么是指令微调————就是有对话

数据要可以被系统利用

不同模型有不同的输入/输出模板

喂给模型的是拼装好的

 

基座不变，在基座上微调lora，新建小linear，也就是adapter。主要目的是减少开销。

XTuner介绍

Liu&&Liu
关注
  • 3
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 1
    评论
Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena阅读笔记
06-09
Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena阅读笔记
微调和提示工程的最佳实践 LLM
01-18
这本书是一本关于大语言模型微调的实用指南，旨在帮助读者掌握如何使用预训练的语言模型来提高特定任务或领域的性能。介绍了大语言模型微调的重要性以及应用场景。详细介绍了大语言模型的基本原理、结构和预训练方法...
XTuner 微调 LLM作业与笔记
m0_65989999的博客
04-24 165
通过对比原模型的能力来看看差异，可以看到在没有进行我们数据的微调前，原模型是能够输出有逻辑的回复，并且也不会认为他是我们特有的小助手。因此我们可以很明显的看出两者之间的差异性。，转换完成后，可以看到模型被转换为 Huggingface 中常用的 .bin 格式文件，这就代表着文件成功被转化为 Huggingface 格式了。根据文档指示可以训练自己的小助手，训练结果如下。与模型进行对话测试，可以看到模型已经严重。和装文件按照步骤来就好了，直接到部署自己的小助手这里。
XTuner 微调 LLM：1.8B、多模态、Agent——笔记
YYYYbhjbhkv_的博客
04-16 1002
LLM的下游应用中，增量预训练 和 指令跟随 是经常会用到两种的微调模式。增量预训练微调使用场景:让基座模型学习到一些新知识，如某个垂类领域的常识。训练数据:文章、书籍、代码等。指令跟随微调使用场景:让模型学会对话模板，根据人类指令进行对话。训练数据:高质量的对话、问答数据。可以看到，增量预训练更多的只是将某种知识喂给模型，让模型学会这个知识，但怎么用，模型此时还是不知道的。然后，指令跟随微调就会训练模型，让模型学会对话模板，当想它问出问题的时候，模型就会运用自己的知识来解答。
第五讲 XTuner 微调 LLM
cms90822的博客
04-20 273
3. XTuner支持多款开源大模型，如书生、Llama、阿里的通义千问、百川大模型和清华的chatGLM等。原始数据--标准格式数据--添加对话模板--Tonkenized数据--添加label--开始训练。1、Lora：在原本的linear旁新增一个支路，包含两个连续的小linear，叫做Adapter。1、为什么要微调：LLM的下游应用，对齐特殊领域。2、QLora：进一步在加载模型时进行量化。3、查找可用于1.8b模型微调用的配置文件。2、创建用于微调的数据集。
学习笔记 | XTuner 微调 LLM：1.8B、多模态、Agent
DrFlown的博客
04-21 996
​ 底座模型 (Foundation Model) 是为了一般性任务而训练，需要领域内微调来更好地适应领域内任务。
XTuner 微调 LLM：1.8B、多模态、Agent 笔记
m0_55546566的博客
04-22 183
大模型一般提供的基座模型是基于普遍共通的数据，所以针对下游任务就需要在基座模型上做微调。微调一般有两种范式，特点：傻瓜化、轻量级、适配多种硬件和生态。一、Finetune简介。二、XTuner工具。
XTuner 微调 LLM：1.8B、多模态
2301_80703617的博客
04-19 521
准备InternLM2-Chat-7B的预训练模型，然后初始化git配置，并设置 Git 用户名，OpenXLab 使用你在平台的用户名作为 Git的用户名。在 OpenXLab 先创建一个空仓库，填写模型仓库的基本信息，创建完成空的模型仓库后，找到该仓库的 git 地址并拉取该空仓库至本地，空仓库的地址在模型文件的下载，找到空仓库下的 git 地址，执行 git clone 操作。在OpenXLab浦源平台选择Gradio组件，开始创建，填入 GitHub 仓库的地址，创建。微调后，可以更好的回答问题。
第四节“XTuner 微调 LLM”笔记
PiQiuNi的博客
04-16 845
XTuner 一个大语言模型&多模态模型微调工具箱。由 MMRazor 和 MMDeploy 联合开发。🤓 傻瓜化： 以 配置文件 的形式封装了大部分微调场景，0基础的非专业人员也能一键开始微调。 🍃 轻量级： 对于 7B 参数量的LLM，微调所需的最小显存仅为 8GB ： 消费级显卡✅，colab✅XTuner 的运行原理:
XTuner微调LLM：1.8B、多模态和Agent-笔记四
qq_46576562的博客
04-26 182
若直接用预训练的模型或增量预训练模型，可能不能回答用户的问题；经过该领域的指令微调，模型以对话的方式准确回答用户的问题。原始数据->标准格式数据->添加对话模板->Tokenized数据->添加Label。讲解【XTuner 微调 LLM：1.8B、多模态和 Agent】课程。LLaMa-Factory和Xtuner性能对比。高效微调方法：LoRA、QLoRA。InternLM2 1.8B模型。本次课程由XTuner 贡献者。两种Finetune范式。Xtuner快速上手示例。李剑锋、汪周谦、王群老师。
书生·浦语大模型（四）XTuner 微调 LLM：1.8B、多模态、Agent【实践笔记部分】——XTuner微调个人小助手认知
ww1132的博客
04-19 1698
XTuner微调个人小助手认知
在您自己的数据上预训练、微调、部署 20+ LLM
04-15
在您自己的数据上预训练、微调、部署 20+ LLM。使用最先进的技术：闪光注意力、FSDP、4 位、LoRA 等。
LLM原理与ChatPDF实现.pdf
09-28
LLM原理与ChatPDF实现.pdf
Byzer-LLM 基于 Ray 技术构建，是一款覆盖大语言模型（LLM）完整生命周期的解决方案包括预训练、微调、部署及推理服务
06-06
它为 LLM 提供了从预训练到微调，再到部署和推理服务的一站式管理。Byzer-LLM 的独特之处在于它提供全生命周期管理，支持预训练、微调、部署和推理服务全流程。用户可以通过简单的 Python/SQL API 接口与 Byzer-LLM ...
随心笔记，第六更
最新发布
leen的博客
06-13 402
今天给大家分享的是使用idea 将xml转为JavaBean，并且取其中的数据和其他的数据进行交互。
(delphi11最新学习资料) Object Pascal 学习笔记---第14章泛型第2节（标准类的泛型方法）
langfengyl的专栏
06-07 312
​ 使用泛型类型定义类可能是最常见的情况，但泛型类型也可以用于非泛型类。换句话说，一个普通的类也可以有一个泛型方法。在这种情况下，不仅要在创建类的实例时为泛型占位符指定类型，还要在调用方法时指定类型。：当我第一次编写这段代码时，可能是因为我想起了我的C++时代，我将参数写成了（t：T）。​ 所有上述调用都是正确的，因为这些调用中的参数类型可以是隐式的。如果使用类型和参数调用该方法，则参数的类型必须与泛型类型声明匹配。​ 如果在尖括号之间不指示类型调用该方法，则实际类型将从参数的类型中。
《雅思口语真经总纲1.0》笔记——第二章：官方评分标准真经——Lexical Resource 词汇资源——三十组同义形容词列表
Dontla的博客
06-09 601
直接提取词汇重点，不看例句了。
[ue5]建模场景学习笔记（5）——必修内容可交互的地形，交互沙（3）
qq_40128113的博客
06-09 284
5.第一想法直接clear掉，但直接clear会把想要保留的痕迹一并去除，跑起来就没有痕迹！所以不行，要做一个转载，先把痕迹保留在一个载体上，清楚原来痕迹，用sandsave表示，再把这个载体的痕迹保存回原来rt，这样之前的痕迹被清空了，只留下了保存在载体上的部分，正好符合我们想要的部分。我们现在已经能够让这片地形出现在任意地方，只要角色走在这片地形上，就能够产生痕迹，但这片区域总是需要人工指定，又无法把这片区域无限扩大（显存爆炸），因此尝试使角色无论走到哪里都能产生痕迹。否则绘制不到画板上。
LLM + LoRA 微调
09-07
LLM LoRA微调是一种基于LoRA技术的微调方法，它在每个Transformer块中注入可训练层，通过减少需要训练参数的数量和降低GPU内存需求，从而实现了更快的速度和更少的计算量。研究发现，LLM LoRA微调的质量与全模型微调...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Liu&&Liu

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值