XTuner 微调个人小助手认知任务

最新推荐文章于 2024-08-15 20:46:37 发布
最新推荐文章于 2024-08-15 20:46:37 发布
阅读量120 收藏
点赞数 2
文章标签： 深度学习 nlp
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_49117198/article/details/141092344
版权

微调前 internlm2-chat-1.8b 的对话效果

使用vscode自带的端口映射

在网页端打开demo进行对话

准备微调数据

设置微调数据生成脚本的用户名

生成微调的json格式数据

查找XTuner工具里internlm2最相近的配置文件

与需求最匹配的配置文件是 internlm2_chat_1_8b_qlora_alpaca_e3，复制该配置文件

对配置文件进行修改

由于不需要在 HuggingFace 上自动下载模型，因此更换模型的路径以及数据集的路径为本地的路径

evaluation_inputs参数来设置多个问题来确保模型在训练过程中的变化是朝着我们想要的方向前进的。添加自己的输入

由于我们准备的数据集是 JSON 格式的数据，并且对话内容已经是 input 和 output 的数据对，所以不需要进行格式转换

开始微调训练

模型格式转换

部署微调后的模型，成功实现小助手

粥粥E
关注
  • 2
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
大模型-大模型SFT微调训练基础认知视频
03-16
本视频课程“大模型SFT微调训练基础认知”应该会涵盖这些内容，并深入讲解如何有效地进行微调，以优化大模型在特定任务上的表现。通过学习，你可以理解大模型的潜力，掌握微调技巧，从而在自己的项目中利用这些强大...
MOSS微调数据转换脚本
06-06
总结来说，"MOSS微调数据转换脚本"是连接`chatglm`数据和MOSS模型的关键桥梁，它的主要任务是将原始数据转化为适合模型微调的格式，使得模型能够有效地学习并适应新的对话生成任务。这个过程涉及到数据处理、预训练...
L1-XTuner 微调个人小助手认知任务
Finnwestbrook的博客
08-05 248
使用 internlm2_chat_1_8b_qlora_alpaca_e3 对 internlm2_chat_1_8b 进行指令微调。为了让模型按照我们预期的结果进行回复，需要通过在微调数据集中大量加入这样的数据。将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式。此时，hf 文件夹即为我们平时所理解的所谓 “LoRA 模型文件”，即Adapter。1. 在PART1中修改模型路径，数据集路径和问题设置。训练后的结果，不过英文结果变成BERT了是为啥。
XTuner微调个人小助手认知
qq_34719225的博客
07-28 361
表示模式匹配，后面跟着的内容将会在所有的配置文件里进行模糊匹配搜索，然后返回最有可能得内容。比如我们这里微调的是书生·浦语的模型，我们就可以匹配搜索。修改配置文件，打开internlm2_chat_1_8b_qlora_alpaca_e3_copy.py，修改了以下几个部分。如果自己想要微调的模型在开发机中没找到，也可以自己下载相关模型文件。在我们的输入的这个命令中，我们的。的方式来微调一个自己的小助手认知作为案例来进行演示。命令用于复制一个内置的配置文件。对应的是上面搜索到的。其他问题明显是正常的。
【训练营】XTuner 微调个人小助手认知任务
googteo的博客
08-13 199
【代码】【训练营】XTuner 微调个人小助手认知任务。
书生大模型实战营-XTuner 微调个人小助手认知任务
weixin_52114905的博客
08-07 278
感谢书生平台，欢迎大家也来参加书生大模型实战营项目（http://github.com/internLM/tutorial）RAG微调之前大模型回答，没有个人助手表现RAG微调之后大模型回答，官方示例RAG微调之后大模型回答，答题本人更改
【书生大模型实战】L1-XTuner 微调个人小助手认知任务
cjy_colorful0806的博客
08-02 536
当我们在测试完模型认为其满足我们的需求后，就可以对模型进行量化部署等操作了，这部分的内容在之后关于 LMDeploy 的课程中将会详细的进行讲解，敬请期待后续的课程吧！对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。比如我们这里微调的是书生·浦语的模型，我们就可以匹配搜索。，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。
书生·浦语大模型实战营之XTuner 微调个人小助手认知
段智华的博客
04-12 1214
书生·浦语大模型实战营之XTuner 微调个人小助手认知在本节课中讲一步步带领大家体验如何利用 XTuner 完成个人小助手的微调！为了能够让大家更加快速的上手并看到微调前后对比的效果， 用 QLoRA 的方式来微调一个自己的小助手！可以通过下面两张图片来清楚的看到两者的对比。
XTuner 微调个人小助手认知任务-第三期闯关大挑战
wtt88的专栏
08-07 630
1.1 配置基础环境在资源配置中，的选项，如果使用。
实战Transformers模型微调
07-22
### 实战Transformers模型微调 #### 数据集处理库 Hugging Face Datasets ...通过以上步骤，我们可以深入理解并实践如何使用 Hugging Face 的工具来进行 Transformers 模型的微调，从而提高模型在特定任务上的表现。
基于微调的法律ChatGLM模型.zip
06-05
然后，在特定任务（如法律问答）上，利用少量的标注数据对预训练模型进行微调，使其更加适应该领域的特点和需求。这种做法可以有效提高模型在特定任务上的性能，同时降低训练成本。 在本项目中，法律ChatGLM模型...
基于chatglm3-6b模型的lora方法的微调（自我认知）
05-29
本文将深入探讨一个具体的应用：基于ChatGLM3-6B模型的LORA方法的微调，以及如何实现自我认知。ChatGLM3-6B是一个大型预训练语言模型，而LORA（Locality-sensitive Orthogonal Random Features）是一种有效的降维和...
Attention注意力机制
russwest44的博客
08-13 216
【代码】Attention注意力机制。
Positional Encoding | 位置编码【详解】
qq_23022733的博客
08-14 636
transformer的作者刚开始说固定的位置编码和可学习的位置编码的效果是差不多的，后来证明固定的位置编码没有太大的必要，还不如省事直接使用可学习的位置编码，如下图，设置token的数量为10，token的特征向量长度为128，偶数项和奇数项的位置编码公式如下图所示，代码中，token_num是句子中的单词数量，embed_dim表示每个单词的特征向量长度，将对应位置的位置编码直接加在输入的单词上，如下图中的最后一行，为什么 attention 并不能赋予 token 位置信息？
MATLAB基于深度学习的车辆检测系统
最新发布
2401_86539719的博客
08-15 506
作为一个演示项目以上的平均精度还算可以了，可以提升的地方首当是训练数据量了，因为只选取了一部分数据这使得模型的泛化性能不高，对于拟合效果也没有作太多的优化，建议大家多做调整优化了。倍下采样，这样的下采样量算是空间分辨率与所提取特征强度之间的一个折中，因为经过网络提取的特征可能会在网络上显示出更强的图像特征。十分好用了，作为自动驾驶常用大型多样化数据集，其标注超过100,000张图像，类别包含公共汽车，行人，自行车，卡车，小汽车，火车和骑手等，用于目标检测、全帧分割等。”文件夹下的文件用于训练。
CNN代码实战
保持学习
08-15 172
CNN代码实战
直流电机（二）
liangwqi的博客
08-12 448
直流电机作为一个电磁装置，对于用户来说要哪些参数是他们关注的呢。• 额定功率PN：电机在铭牌规定的额定状态下运行时电机的输出功率(W/kW)• 额定电压UN：电机出线端额定电压(V )• 额定电流IN：电机出线额定电流(A)• 额定转速nN：(r/min,r.p.m)• 额定励磁电压UfN：(V)• 额定励磁电流IfN： (A)• 额定效率ŋN： (%)PN​UN​⋅IN​PN​UN​⋅IN​⋅ηN​。
Advancing Vision Transformers with Group-Mix Attention 论文解析
m0_62415132的博客
08-14 843
视觉变形(ViTs) 通过对 多头自注意(MHSA) 的远程依赖关系建模来增强视觉识别，而多头自注意通常被表述为查询键值计算。然而，由 Query 和 Key 生成的注意图仅以单一粒度捕获 token 到 token 的相关性。本文认为自注意应该有一个更全面的机制来捕捉 token 和 group (即多个相邻token)之间的相关性，以获得更高的表征能力。因此，我们提出群体混合注意(GMA)
XTuner大模型微调
06-28
XTuner是一个专为深度学习模型微调设计的工具或框架，它可能用于优化模型性能，特别是针对特定任务或数据集进行个性化调整。微调（Fine-tuning）是指在一个预训练模型的基础上，使用新的、特定领域的数据对其进行训练，以适应新任务或改进其在特定环境下的性能。 具体来说，XTuner可能包含以下特点和步骤： 1. **预训练模型导入**：从大规模的通用模型（如BERT、ResNet等）加载预训练权重。 2. **数据准备**：对微调任务的数据进行清洗、标注和格式转换，使其与预训练模型的要求一致。 3. **模型微调**：选择合适的层进行训练，通常保留低级别的特征提取器，只更新或添加新添加的层，以减少过拟合。 4. **超参数调优**：使用XTuner进行超参数搜索，找到最优配置以提高模型性能。 5. **评估与验证**：在验证集上监控模型性能，调整微调策略。 6. **部署与应用**：将微调后的模型应用于实际场景中，如自然语言处理任务、计算机视觉任务等。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值