书生第四期 - 基础 - XTuner 微调个人小助手认知任务

最新推荐文章于 2025-05-14 14:43:48 发布
最新推荐文章于 2025-05-14 14:43:48 发布
阅读量235 收藏
点赞数 1
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_43303444/article/details/144889859
版权

文章目录

基础任务要求：使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知，记录复现过程并截图。

环境配置

步骤0：构建虚拟环境

在这里插入图片描述

步骤1：安装 XTuner

在这里插入图片描述

微调数据准备

在这里插入图片描述

训练启动

启动微调

![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/ad7da5b220fc45b99ac20713ba05e9cd.png

权重转换

在这里插入图片描述
转换后输出文件夹
在这里插入图片描述

模型合并

在这里插入图片描述

WebUI 对话

在这里插入图片描述
但是这里报了一个transformer的错误，更新版本、重新合并也没有解决。
在这里插入图片描述

this_JasMine
关注
基础岛-第五关 XTuner 微调个人小助手认知 笔记
晓飞趋势
08-11 1211
由 MMRazor 和 MMDeploy 联合开发。🤓 傻瓜化： 以 配置文件 的形式封装了大部分微调场景，0基础的非专业人员也能一键开始微调。🍃 轻量级： 对于 7B 参数量的LLM，微调所需的最小显存仅为 8GB ： 消费级显卡✅，colab✅xtuner 高阶教程LoRA（Low-Rank Adaptation）是一种使用低精度权重对大型预训练语言模型进行微调的技术，它的核心思想是在不改变原有模型权重的情况下，通过添加少量新参数来进行微调。
基础岛-5.《XTuner 微调个人小助手认知》-学习笔记
weixin_43806237的博客
08-11 1048
使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知，如下图所示（需替换成自己的昵称），记录复现过程并截图。
【InternLM 实战营第二期-笔记4】XTuner 微调个人小助手认知
Oven_maizi的博客
04-12 1305
在本节中主要就是带领着大家跑通了 XTuner 的一个完整流程，通过了解数据集和模型的使用方法、配置文件的制作和训练以及最后的转换及整合。那在后面假如我们也有想要微调出自己的一个模型，我们也可以尝试使用同样流程和方法进行进一步的实践！
书生大模型训练营第3期-基础岛-第5关 XTuner 微调个人小助手认知任务
weixin_46075375的博客
10-08 490
对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型，而是一个额外的层（Adapter），训练完的这个层最终还是要与原模型进行合并才能被正常的使用。原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件。微调成功，在这里模型已经把自己叫做Adam同志的助手了。配置文件的设置按照自己需求来，略。
书生大模型-L1G5000-XTuner 微调个人小助手认知
weixin_74439007的博客
03-14 807
验证是否能打印配置文件列表。直接修改脚本文件第18行。然后修改如下： 打开。文件后复制对应的内容。
书生模型实战L1---XTuner 微调个人小助手认知任务
早睡早起吧
08-19 680
第一章 入门岛L0（Linux）第二章 入门岛L0（python）第三章 入门岛L0（Git）第四章 基础岛L1（书生全链路开源介绍）第四章 基础岛L1（Demo）第四章 基础岛L1（Prompt）第四章 基础岛L1（RAG）第四章 基础岛L1（XTuner 微调）
第四期书生大模型实战营——基础岛第5关-L1G5000-XTuner 微调个人小助手认知
AbelYang1的博客
11-27 722
在 XTuner 中提供了一键合并的命令 xtuner convert merge，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。该命令需要三个参数：LLM 表示原模型路径，ADAPTER 表示 Adapter 层的路径， SAVE_PATH 表示合并后的模型最终的保存路径。对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。
书生·浦语大模型 - 基础岛 - 第5关 XTuner 微调个人小助手认知
weixin_45709798的博客
08-15 304
1. 克隆Tutorial仓库的资料到本地。3. 安装 XTuner。9. 微调之前的回答。10. 指令跟随微调。12. 微调后的模型。
书生大模型实战营-第三期-L1-XTuner微调个人小助手认知
xidianwxm的专栏
08-09 767
下面我们将根据项目的需求一步步的进行修改和调整吧！在 PART 1 的部分，由于我们不再需要在 HuggingFace 上自动下载模型，因此我们先要更换模型的路径以及数据集的路径为我们本地的路径。为了训练过程中能够实时观察到模型的变化情况，XTuner 贴心的推出了一个。
XTuner微调个人小助手认知
forinout的博客
08-06 1911
对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。比如我们这里微调的是书生·浦语的模型，我们就可以匹配搜索。在 PART 1 的部分，由于我们不再需要在 HuggingFace 上自动下载模型，因此我们先要更换模型的路径以及数据集的路径为我们本地的路径。在准备好了模型和数据集后，我们就要根据我们选择的微调方法结合微调方案来找到与我们最匹配的配置文件了，从而减少我们对配置文件的修改量。
书生大模型实战营-基础关卡-5-XTuner 微调个人小助手认知
微风❤水墨
08-13 299
制作对话数据训练重新推理。
书生大模型实战--XTuner微调个人小助手认知
m0_71853180的博客
08-31 1302
本次学习，跑通了 XTuner 的完整流程，学会了指令跟随微调，并且训练出了一个自己小助手。
Recraft.ai：赋能专业设计师的 AI 创意引擎
weixin_44903776的博客
05-12 1280
Recraft.ai 是一款专为专业设计师打造的 AI 创意引擎，集图像生成、编辑、矢量化、协作于一体，旨在提升设计效率与创意表达。其核心功能包括 AI 图像生成器、矢量生成器、照片编辑器等，支持风格一致性与品牌化，适用于 Logo 设计、图标制作、广告素材等多个场景。Recraft.ai 强调“设计师主导”理念，提供完全掌控、高效协作与简化工作流程的优势，帮助设计师节省时间并提升作品质量。目前提供免费试用，适合设计师与设计爱好者探索 AI 创意的无限可能。
【datawhale组队学习】coze-ai-assistant TASK01
m0_52024881的博客
05-13 677
通过扣子开发的 AI 应用有明确的输入和输出，可以根据既定的业务逻辑和流程完成一系列简单或复杂的任务，例如 AI 搜索、翻译工具、饮食记录等。工作流具备了： 大量的重复性任务 （如内容创作、编辑、发布）和 固定的业务流程 （如策划、创作、审核、发布）。的 AI 项目，它通过对话方式接收用户的输入，由大模型自动调用插件或工作流等方式执行用户指定的业务流程，并生成最终的回复。教程：Coze / 扣子（飞书文档）10. 教程：Coze / 扣子。4万字教程-COZE/扣子与智能体入门（飞书文档）
第二十一天打卡
nbbsn的博客
05-11 865
这个结果略微差于聚类后的效果，但和一开始考虑所有特征的预测效果差不多，这个降维算法也比较成功。首先我们要对训练集和测试集进行处理，将非数字部分进行编码，并且将空缺值进行填充。- 输出每个模型的最佳参数和评估指标（准确率、精确率、召回率和F1分数）- 对每个模型分别使用网格搜索和贝叶斯优化进行超参数调优。这里可以看出预测结果大大提高了，这个调整工程是成功的。- 使用三个典型模型：随机森林、支持向量机和逻辑回归。- 在验证集上评估每个模型的性能。
Baklib智能云平台加速企业数据治理
weixin_51374429的博客
05-13 1057
Baklib智能云平台通过一站式数字资源管理、知识库构建及多场景内容系统搭建，实现企业图文音视频全资产统一存储与智能分类，结合AI驱动的高效数据预处理能力，显著提升知识沉淀效率和治理规范性，助力客户服务、内部协作与数字资产价值释放。
Python数据分析案例74——基于内容的深度学习推荐系统（电影推荐）
weixin_46277779的博客
05-10 1453
电影数据集构建推荐系统，结合内容推荐和深度学习两种方法。预处理、探索性分析，加权平均法和余弦相似度进行基于内容的推荐，计算电影的相似度并生成推荐结果。并且使用深度学习模型，构建评分预测和检索任务，用户个性化推荐和评分预测。
【AI】“CUDA” 到底是什么？（AI 计算民主化，第二部分）
最新发布
u011808788的博客
05-14 592
似乎每个人都在去年开始谈论CUDA ：它是深度学习的支柱，是新型硬件难以竞争的原因，也是NVIDIA 护城河和飙升市值的核心。DeepSeek的出现，让我们获得了一个惊人的发现：它的突破是通过“绕过” CUDA，直接进入 PTX 层实现的……但这究竟意味着什么？似乎每个人都想打破这种锁定，但在制定计划之前，我们必须了解我们面临的是什么。本文是 Modular “ AI 计算民主化”系列文章的第二部分。更多信息，请参阅：第一部分：DeepSeek 对 AI 的影响第二部分：“CUDA”到底是什么？
5月12日day23打卡
2503_91003121的博客
05-12 937
5月12日打卡day23@浙大疏锦行
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值