书生·浦语大模型--第四节课笔记--XTuner大模型单卡低成本微调

已于 2024-01-23 23:35:24 修改
阅读量634 收藏 7
点赞数 13
分类专栏： InternLM大模型 文章标签： 笔记 chatgpt 机器学习 人工智能 语言模型
于 2024-01-23 23:33:13 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lalala12ll/article/details/135738066
版权

在这里插入图片描述

文章目录

Finetune简介

增量预训练和指令跟随
在这里插入图片描述
通过指令微调获得instructed LLM
在这里插入图片描述

指令跟随微调

一问一答的方式进行
在这里插入图片描述
对话模板
在这里插入图片描述
计算损失
在这里插入图片描述

增量预训练微调

不需要问题只需要回答，都是陈述句。计算损失时和指令微调一样
在这里插入图片描述

LoRA QLoRA

不需要太大的显存开销。增加旁路分支Adapter。
在这里插入图片描述
比较：

  • 全参数微调：整个模型加载到显存中，所有模型的参数优化器也要加载到显存中
  • LoRA微调：模型也需要加载到显存中，但是参数优化器只需要LoRA部分
  • QLoRA微调：加载模型时就4bit量化加载，参数优化器还可以在CPU和GPU之间调度，显存满了可以在内存里跑
    在这里插入图片描述

XTuner介绍

在这里插入图片描述

快速上手

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

8GB显卡玩转LLM

动手实战环节

李日音
关注
  • 13
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
书生·浦语大模型实战营笔记-第四节 XTuner 大模型单卡低成本微调实战
qq_46212981的博客
01-12 1053
介绍Finetune和XTunner的概念。并微调Xtuner两种微调模式：增量预训练、指令跟随增量预训练：用文章、数据、代码等让基座模型学到一些新知识指令跟随：用高质量的对话和问答数据让模型学会对话模板指令微调之前，模型不知道自己要回答一个问题支持热门数据集的映射支持多数据的样本拼接如果要用别的数据集进行微调，需要将数据转换成Xtuner的格式准备配置文件运行xtuner微调然后把pth转换成Huggingface格式。
轻松玩转书生·浦语大模型趣味- 第四节课 XTuner 大模型单卡低成本微调实战 笔记
m0_58431543的博客
01-16 401
1.基本流程2. 指令跟随微调。
《书生·浦语大模型全链路开源开放体系》笔记第四课 XTuner 大模型单卡低成本微调实战
m0_65719612的博客
01-14 591
一个大语言模型微调工具箱。由MMRazor和MMDeploy联合开发。以数据集为例场景需求基于 InternLM-chat-7B 模型，用 MedQA 数据集进行微调，将其往医学问答领域对齐。此时，我们重新建一个文件夹来玩“微调自定义数据集”把前面下载好的internlm-chat-7b模型文件夹拷贝过来。别忘了把自定义数据集，即几个.jsonL，也传到服务器上。
书生·浦语大模型实战营第四节课笔记及作业
zpc1219的博客
01-13 1019
大语言模型LLM是在海量的文本内容基础上，以无监督或半监督方式进行训练的。海量的文本内容赋予了大模型各种各样的行业知识。但是如果直接把大模型的知识用于生产实践，会发现回答不大满意。微调的目的就是让LLM在具体的场景或领域中能够得到更好的回答。
【书生·浦语大模型实战营】第4节：XTuner 大模型单卡低成本微调实战（笔记版）
zhenzhu2882的博客
02-20 414
【书生·浦语大模型实战营】第4节：XTuner 大模型单卡低成本微调实战（笔记版）
第四课学习笔记 of 书生·浦语大模型实战营（第二期）：XTuner微调
weixin_45924713的博客
04-30 321
增量预训练使用文章、书籍、代码等训练数据，旨在让基座模型学会某个垂类领域的新知识，微调的结果是所谓的“垂类基座模型”。指令跟随的训练数据则是高质量的对话（问答）数据，旨在让模型学会根据人类的指令进行回答和对话。本次实践中采用的微调方式是LoRA/QLoRA，它并不是直接更新原有大模型的权重参数（区别于全量微调），而是在原本的模型基础上新建一个旁侧支路，称为adapter，这个支路的参数数量远小于原模型。那么，为了评估模型的效果， 需要对比模型的输出和预先准备好的label。
书生·浦语大模型训练营第四次课笔记
Adela0546的博客
01-25 888
本节课主要包括理论和实战两大部分，理论部分会给大家简单介绍一下微调框架XTuner以及整个微调的工作流程，实战部分会手把手的教大家如何使用XTuner来自己微调一个属于自己的开源模型，我们会以intenLM为底座模型来进行微调。
XTuner 大模型单卡低成本微调实战（书生浦语实战训练营第四期笔记和作业）
jianfengkexin的博客
01-12 1496
但是问题就是自己在没有高质量数据集的时候得到的效果往往是非常差的，对于数据层面上需要做到大量的工作去实现，而且真正去学习微调的话最重要还是要回归到数据层面，并且更多的去尝试去炼丹才能知道怎么是好的。假如你的dataset是json而不再是文件夹的话也要像下面一样修改，然后dataset_map_fn是在你的格式是有system, user, assistant的情况下才要改，假如你的是OpenAssistant的格式的话不用修改。我们就可以将收集到的数据以这样一个格式无限量的丢进去，让其能够很好的输出。
【书生·浦语大模型实战营04】《(4)XTuner 大模型单卡低成本微调实战》学习笔记
墨门
01-10 516
LLM的下游应用中，增量预训练和指令跟随是经常会用到两种的微调模式。
书生浦语大模型实战课（第二期） 第二课作业
04-04
书生浦语大模型实战课（第二期） 第二课作业
书生·浦语大模型第二课
03-04
书生·浦语大模型第二课
2024-07-05 base SAS programming学习笔记9(variables)
最新发布
ddjdd1234的博客
07-05 328
由于SAS 每次都会执行IF THEN 语句，因此在对同一个变量进行操作时使用IF THEN ELSE IF THEN 语句来提高效率，避免重复使用IF-THEN 语句，在碰到TRUE的情况则会跳出该IF 语句。如果不存在select expression ，则会对每个when 语句判断TRUE或FALSE,SAS只会执行首次判断为TRUE的语句，一旦存在TRUE语句则跳出不对其他WHEN语句进行判断。在每次DO循环前检查是否满足WHILE的条件，只有满足WHILE的条件才继续循环，如果不满足则终止循环。
笔记：操作系统使用的一些小命令
Lizi_TT的博客
07-01 203
2，Linux查看cpu使用率。1，Linux查看内存使用率。7，查看哪些进程用来那个端口。3，Linux查看空间。
昇思MindSpore学习笔记2-01 LLM原理和实践 --基于 MindSpore 实现 BERT 对话情绪识别
muren的专栏
07-02 1051
通过识别BERT对话情绪状态的实例，展现在昇思MindSpore AI框架中大语言模型的原理和实际使用方法、步骤。
GAMES104：04游戏引擎中的渲染系统1：游戏渲染基础-学习笔记
噗噗噗的博客
07-02 1027
游戏引擎的设计与硬件架构密不可分，要做好一个图形程序，就得了解显卡架构游戏引擎的一个核心问题是Mesh、Materials等数据之间的关系，submesh就是一个很好的解决方法大师：do nothing—用Culling算法使得引擎绘制尽可能少的东西，CPU、GPU做的事越少越好GPU代替CPU计算–GPU Driven。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值