XTuner 微调个人小助手认知任务

最新推荐文章于 2024-08-08 18:36:45 发布
最新推荐文章于 2024-08-08 18:36:45 发布
阅读量149 收藏
点赞数
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45725137/article/details/140969420
版权

下载安装XTuner

拉包

git clone -b v0.1.21  https://github.com/InternLM/XTuner

在这里插入图片描述

安装

pip install -e '.[deepspeed]' -i https://mirrors.aliyun.com/pypi/simple/

在这里插入图片描述

验证

xtuner version

在这里插入图片描述

微调前测试

在这里插入图片描述

微调

xtuner train ./internlm2_chat_1_8b_qlora_alpaca_e3_copy.py

在这里插入图片描述
在这里插入图片描述

模型合并

xtuner convert merge /root/InternLM/XTuner/Shanghai_AI_Laboratory/internlm2-chat-1_8b ./hf ./merged --max-shard-size 2GB

在这里插入图片描述

微调后效果

在这里插入图片描述

Olivia Lam
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
大模型-大模型SFT微调训练基础认知视频
03-16
本视频课程“大模型SFT微调训练基础认知”应该会涵盖这些内容，并深入讲解如何有效地进行微调，以优化大模型在特定任务上的表现。通过学习，你可以理解大模型的潜力，掌握微调技巧，从而在自己的项目中利用这些强大...
MOSS微调数据转换脚本
06-06
总结来说，"MOSS微调数据转换脚本"是连接`chatglm`数据和MOSS模型的关键桥梁，它的主要任务是将原始数据转化为适合模型微调的格式，使得模型能够有效地学习并适应新的对话生成任务。这个过程涉及到数据处理、预训练...
L1-XTuner 微调个人小助手认知任务
Finnwestbrook的博客
08-05 238
使用 internlm2_chat_1_8b_qlora_alpaca_e3 对 internlm2_chat_1_8b 进行指令微调。为了让模型按照我们预期的结果进行回复，需要通过在微调数据集中大量加入这样的数据。将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式。此时，hf 文件夹即为我们平时所理解的所谓 “LoRA 模型文件”，即Adapter。1. 在PART1中修改模型路径，数据集路径和问题设置。训练后的结果，不过英文结果变成BERT了是为啥。
书生大模型实战营-XTuner 微调个人小助手认知任务
weixin_52114905的博客
08-07 145
感谢书生平台，欢迎大家也来参加书生大模型实战营项目（http://github.com/internLM/tutorial）RAG微调之前大模型回答，没有个人助手表现RAG微调之后大模型回答，官方示例RAG微调之后大模型回答，答题本人更改
【书生大模型实战】L1-XTuner 微调个人小助手认知任务
cjy_colorful0806的博客
08-02 527
当我们在测试完模型认为其满足我们的需求后，就可以对模型进行量化部署等操作了，这部分的内容在之后关于 LMDeploy 的课程中将会详细的进行讲解，敬请期待后续的课程吧！对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。比如我们这里微调的是书生·浦语的模型，我们就可以匹配搜索。，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。
书生·浦语大模型实战营之XTuner 微调个人小助手认知
段智华的博客
04-12 1206
书生·浦语大模型实战营之XTuner 微调个人小助手认知在本节课中讲一步步带领大家体验如何利用 XTuner 完成个人小助手的微调！为了能够让大家更加快速的上手并看到微调前后对比的效果， 用 QLoRA 的方式来微调一个自己的小助手！可以通过下面两张图片来清楚的看到两者的对比。
XTuner 微调个人小助手认知任务-第三期闯关大挑战
wtt88的专栏
08-07 405
1.1 配置基础环境在资源配置中，的选项，如果使用。
XTuner 微调个人小助手认知学习笔记
Moo_n_earth的博客
06-03 1066
XTuner数据引擎数据处理流程：原始问答对——>格式化问答对——>可训练语料多数据样本拼接，增加并行性，充分利用GPU资源Flash Attention和DeepSpeed ZeRO是XTuner最重要的两个优化技巧：Flash Attention 将 Attention 计算并行化，避免了计算过程中 Attention Score NxN的显存占用（训练过程中的 N 都比较大）
L1-XTuner 微调个人小助手认知基础任务
weixin_51449774的博客
07-29 749
在确定了自己的微调目标后，我们就可以在 XTuner 的配置库中找到合适的配置文件并进行对应的修改。为了让模型能够认清自己的身份弟位，在询问自己是谁的时候按照我们预期的结果进行回复，我们就需要通过在微调数据集中大量加入这样的数据。在准备好了模型和数据集后，我们就要根据我们选择的微调方法结合微调方案来找到与我们最匹配的配置文件了，从而减少我们对配置文件的修改量。脚本来观察微调后的对话效果，不过在运行之前，我们需要将脚本中的模型路径修改为微调后的模型的路径。在我们的输入的这个命令中，我们的。
XTuner微调个人小助手认知
GYX67的博客
08-04 720
本节主要重点是带领大家实现个人小助手微调，如果想了解微调相关的基本概念，可以访问XTuner微调前置基础。环境安装：我们想要用简单易上手的微调工具包 XTuner 来对模型进行微调的话，第一步是安装 XTuner ！安装基础的工具是一切的前提，只有安装了 XTuner 我们才能够去执行后续的操作。前期准备：在完成 XTuner 的安装后，我们下一步就需要去明确我们自己的微调目标了。我们想要利用微调做一些什么事情呢，然后为了实现这个目标，我们需要准备相关的硬件资源和数据。启动微调：在确定了自己的微调目标后，我
XTuner 微调个人小助手认知
sq8912的专栏
07-30 647
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。模型转换的本质其实就是将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件，那么我们可以通过以下命令来实现一键转换。evaluation_inputs = ['请介绍一下你自己', 'Please introduce yourself']（1）列出所有预定义配置文件。
实战Transformers模型微调
07-22
### 实战Transformers模型微调 #### 数据集处理库 Hugging Face Datasets ...通过以上步骤，我们可以深入理解并实践如何使用 Hugging Face 的工具来进行 Transformers 模型的微调，从而提高模型在特定任务上的表现。
基于微调的法律ChatGLM模型.zip
06-05
然后，在特定任务（如法律问答）上，利用少量的标注数据对预训练模型进行微调，使其更加适应该领域的特点和需求。这种做法可以有效提高模型在特定任务上的性能，同时降低训练成本。 在本项目中，法律ChatGLM模型...
基于chatglm3-6b模型的lora方法的微调（自我认知）
05-29
本文将深入探讨一个具体的应用：基于ChatGLM3-6B模型的LORA方法的微调，以及如何实现自我认知。ChatGLM3-6B是一个大型预训练语言模型，而LORA（Locality-sensitive Orthogonal Random Features）是一种有效的降维和...
大模型微调工具-torchtune
weixin_40777649的博客
08-08 305
1.定义2.安装3. 案例。
【OpenCV C++20 学习笔记】仿射变换-warpAffine, getRotationMatrix2D
最新发布
TeamLee的博客
08-08 394
本文简要介绍了OpenCV中仿射变换的原理和算法，并详细展示了在OpenCV中如何使用getAffineTransform, getRotationMatrix2D和warpAffine方法对图片进行仿射变换和旋转。
电脑技巧：9个免费的AI图片无损放大工具和网站
08-05 772
今天小编给大家介绍9款免费的AI图片放大工具和网站，帮助你提高图片清晰度，感兴趣的朋友可以自己试一试！美图设计室是美图秀秀公司推出的一款在线图片编辑和设计工具箱，提供包括AI 抠图、AI海报、AI PPT、AI消除、AI文生图、AI变清晰、AI无损放大等AI图片编辑工具。其提供的图片无损放大功能，目前是限时免费中，可以帮助用户将JPG、JPEG、PNG、HEIC等格式的图片放大清晰不失真，细节更丰富。✅ 产品优点由美图推出，产品功能稳定，处理速度较快支持免费进行图片放大到8倍。
【Python】Numpy概述安装及使用
Q20011102的博客
08-03 575
Numpy是科学计算基础库，提供大量科学计算相关功能，比如数据统计，随机数生成等。其提供最核心类型为多维数组类型（ndarray），支持大量的维度数组与矩阵运算，Numpy支持向量处理ndarray对象，提高程序运算速度。数组计算、数组存取函数、加权平均函数可让其在python中使用向量和数学矩阵在数据科学、人工智能（包括深度学习、语言处理分支）发挥重要作用。
XTuner大模型微调
06-28
XTuner是一个专为深度学习模型微调设计的工具或框架，它可能用于优化模型性能，特别是针对特定任务或数据集进行个性化调整。微调（Fine-tuning）是指在一个预训练模型的基础上，使用新的、特定领域的数据对其进行训练，以适应新任务或改进其在特定环境下的性能。 具体来说，XTuner可能包含以下特点和步骤： 1. **预训练模型导入**：从大规模的通用模型（如BERT、ResNet等）加载预训练权重。 2. **数据准备**：对微调任务的数据进行清洗、标注和格式转换，使其与预训练模型的要求一致。 3. **模型微调**：选择合适的层进行训练，通常保留低级别的特征提取器，只更新或添加新添加的层，以减少过拟合。 4. **超参数调优**：使用XTuner进行超参数搜索，找到最优配置以提高模型性能。 5. **评估与验证**：在验证集上监控模型性能，调整微调策略。 6. **部署与应用**：将微调后的模型应用于实际场景中，如自然语言处理任务、计算机视觉任务等。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值