XTuner大模型单卡低成本微调实战笔记和作业

最新推荐文章于 2024-07-21 07:44:54 发布
最新推荐文章于 2024-07-21 07:44:54 发布
阅读量521 收藏 10
点赞数 13
分类专栏： 大语言模型 文章标签： 笔记 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45720528/article/details/136177222
版权

书生·浦语大模型实战营笔记系列`

4）XTuner大模型单卡低成本微调实战笔记和作业

文章目录

前言

承接第三节课这节课来展开讲讲Finetune以及xtuner这个框架
在这里插入图片描述

一、Finetune

包括增量预训练微调和指令跟随微调
在这里插入图片描述

1.指令跟随微调

在这里插入图片描述

2.增量预训练微调

在这里插入图片描述

3.LoRA和QLoRA

xtuner中使用的微调原理是LoRA和QLoRA
在这里插入图片描述
全参数微调 vs LoRA微调 vs QLoRA微调
在这里插入图片描述

二、Xtuner

在这里插入图片描述

三、8GB玩转LLM

xtuner默认启动了flash attention

在这里插入图片描述

四、动手实战部分

这部分继续放上源文档
源视频
作业是一个更好的动手操作验证的例子
如果只做课后作业来实践的话，感觉这里可以着重看看那配置文件的常用超参部分，区分一下用基础模型的chat和基础模型加Adapter的chat以及merge后的chat，最后就是课程里补充的Ms-Agent 数据集赋予的LLM以Agent能力，可以学一下怎么训练到模型学会调用Agent。

五、课后作业

在这里插入图片描述
训练的时候可以改下batch也可以加快哦，我好像改到8了
若要开启 deepspeed 加速，增加 --deepspeed deepspeed_zero2 即可

作业参考源文档
作业源视频
跟着这个微调的效果有点差强人意（过拟合了哈哈，如果不想过拟合训练的时候可以加点别的内容
以下是我的作业截图
在这里插入图片描述

总结

学习了一下对大模型的微调，估计还是要对数据集进行实操一下才能更深刻的理解，不过看看吧（希望不懒哈哈

weixin_45720528
关注
  • 13
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
第五期《MindFormers套件之大模型》
10-18
【MindFormers大模型使能套件】是华为推出的一款专为大模型开发与应用而设计的工具包，旨在简化大模型的构建、训练、微调和推理过程。该套件提供了一系列高阶接口和功能，使开发者能够更加高效地进行大模型的实践...
陈丹琦团队新作：单卡A100可训300亿参数模型啦！.pdf
08-13
"大模型GPT和内存高效的零阶优化器MeZO" 大模型GPT是一种深层神经网络模型，它具有数十亿甚至上百亿的参数量，训练这样规模的模型需要消耗大量的内存，并且传统的反向传播方法在优化过程中表现缓慢。为了解决这个...
大模型微调成本降低，创新发展迎来新机遇
weixin_41888295的博客
08-01 115
此外，该项目还针对不同的应用场景，提供了一系列可供参考的模型和参数设置，使得用户可以更加方便地根据自己的需求进行训练和调整。总之，这个国产开源项目的出现，为AI画画模型的成本问题提供了了一种全新的解决方案。这个国产开源项目的出现，不仅降低了AI画画模型的训练和运行成本，还为其应用领域的扩展提供了可能。而随着成本的的不断降低，我们可以预见，AI画画模型将在更多的领域得到应用，为人们的生活带来更多的惊喜。同时，也希望更多的研究人员和开发者能够参与到AI画画模型的研究和应用中来，共同推动这个领域的进步。
XTuner 大模型单卡低成本微调实战笔记
m0_75085274的博客
01-13 1818
这部分非常重要，因为以后如果我们想在自己的训练集上进行训练，就要使用这个内容。首先第一步的话就是准备数据集的格式，这里大佬是用GPT生成的，我的天呀，原来大佬也用gpt生成代码呀，但是的话，大佬好像比我强的是使用提示词，我代码不会写，可以使用提示词让gpt帮我写，就这么干了！上面的数据文件是表格形式的，我们要先将提问和回答提取出来，然后保存到josnl文件中去，学习一下提示词[{},}]这后吧文件复制过来。
第四节笔记 XTuner大模型单卡低成本微调实战笔记
tuyihan的博客
02-18 268
介绍了XTuner工具的一些重要功能，如何通过已有的训练配置文件来自定义训练配置。还有一些XTuner的基础命令.在LLM的下游应用中主要使用的微调方式是。是将新领域的文本内容喂给大模型。3. 8GB 显卡玩转LLM。1. Finetune简介。是根据一些对话模版进行微调。2. XTuner介绍。
XTuner 大模型单卡低成本微调实战（笔记&作业）
littleheart88的博客
02-21 260
本节课程主要介绍了如何进行大模型的微调以及XTuner工具的使用。整体过程比较简单，就是准备数据集，转换为xtuner的数据格式，划分训练集和测试集，启动xtuner开始微调，微调后模型参数转换/合并，最后启动webdemo观察微调结果。
XTuner 大模型单卡低成本微调实战——作业
YYYYbhjbhkv_的博客
01-26 201
构建数据集，使用 XTuner 微调 InternLM-Chat-7B 模型, 让模型学习到它是你的智能小助手。
XTuner 大模型单卡低成本微调实战 学习笔记
weixin_42837310的博客
01-16 458
一个大语言模型微调工具箱。由MMRazor和MMDeploy联合开发。
XTuner 大模型单卡低成本微调实战（笔记四）
2302_81490682的博客
06-26 448
平台：Ubuntu + Anaconda + CUDA/CUDNN + 8GB nvidia显卡在InternStudio平台上，按照笔记二的步骤得到pytorch 2.0.1 的环境，然后：然后激活环境：# 激活环境# 进入家目录 （~的意思是 “当前用户的home路径”）cd ~# 创建版本文件夹并进入，以跟随本教程# 拉取 0.1.9 的版本源码# 无法访问github的用户请从 gitee 拉取:# 进入源码目录cd xtuner# 从源码安装 XTuner。
【笔记】XTuner 大模型单卡低成本微调实战
googteo的博客
01-13 599
不需要一问一答，只需要回答（陈述句），systerm和user留空，数据放入assistant。
XTuner 大模型单卡低成本微调实战——笔记
YYYYbhjbhkv_的博客
01-26 979
一个大语言模型微调工具箱。由MMRazor和MMDeploy联合开发。以数据集为例基于 InternLM-chat-7B 模型，用 MedQA 数据集进行微调，将其往医学问答领域对齐。此时，我们重新建一个文件夹来玩“微调自定义数据集”把前面下载好的internlm-chat-7b模型文件夹拷贝过来。别忘了把自定义数据集，即几个.jsonL，也传到服务器上。MSAgent 数据集每条样本包含一个对话列表（conversations），其里面包含了 system、user、assistant 三种字段。
一个大模型训练、微调、评估、推理、部署的全流程开发套件
12-31
MindSpore Transformers套件的目标是构建一个大模型训练、微调、评估、推理、部署的全流程开发套件： 提供业内主流的Transformer类预训练模型和SOTA下游任务应用，涵盖丰富的并行特性。期望帮助用户轻松的实现大模型...
MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件提供业内主流的训练模型
04-10
MindSpore Transformers套件的目标是构建一个大模型训练、微调、评估、推理、部署的全流程开发套件，提供业内主流的Transformer类预训练模型和SOTA下游任务应用，涵盖丰富的并行特性。期望帮助用户轻松的实现大模型...
是构建一个大模型训练、推理、部署的全流程套件： 提供业内主流的Transformer类预训练模型， 涵盖丰富的并行特性
04-27
MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件： 提供业内主流的Transformer类预训练模型， 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。MindSpore Transformers套件...
OpenGL笔记十四之GLM数学库的配置与使用
小勇博客
07-20 366
— 2024-07-20 中午。
谷粒商城实战笔记-39-前端基础-Vue-指令-v-on、v-for、v-if
epitomizelu的专栏
07-20 950
v-on 是 Vue.js 中的一个指令，用于在 DOM 元素上监听用户事件，并在事件触发时执行相应的 JavaScript 函数。它提供了一种将 Vue 实例中的方法与 DOM 事件关联起来的方式，使得你可以轻松地对用户交互做出响应。v-on 指令的基本语法是在元素上添加 v-on:event-name=“method”，其中 event-name 是你要监听的 DOM 事件类型（如 click、mouseover、keydown 等），method 则是 Vue 实例中定义的方法名。
【Blockly图形化积木编程二次开发学习笔记】5.自动保存与恢复
最新发布
乙酸氧铍的博客
07-21 173
/ 用户离开页面时自动将块备份到本地存储中。关闭后再次打开，工作区仍存在。// 从本地存储中恢复块。
linux学习笔记整理: 关于linux:Shell脚本 2024/7/20；
gzx233的博客
07-20 880
Shell脚本的使用
QLORA：4位量化驱动的高效大模型微调技术
这对于实际应用中的模型部署和扩展具有重要意义，因为大型模型的微调成本通常很高，而QLORA提供了一种在资源受限环境中提升模型性能的有效途径。 QLORA是大语言模型微调领域的一个里程碑，它通过一系列创新技术优化...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值