书生·浦语大模型实战营之 XTuner 微调 Llama 3 个人小助手认知

最新推荐文章于 2024-09-26 15:53:51 发布
最新推荐文章于 2024-09-26 15:53:51 发布
阅读量141 收藏
点赞数
分类专栏： 深入理解 ChatGPT 文章标签： llama Llama3
热烈祝贺Gavin大咖2024年北京航空航天大学两本新书《Transformer&ChatGPT解密：原理、源码及案例》、《Transformer& Rasa 解密: 原理、源码及案例》出版发行
本文链接：https://blog.csdn.net/duan_zhihua/article/details/138070916
版权
本文介绍了如何使用XTuner对Llama 3模型进行微调，创建一个具有自我认知的个人小助手。通过数据集准备、配置文件设置、模型训练、Adapter转换和模型合并等步骤，实现Llama3模型的认知能力升级，最终在InternStudio平台上进行推理验证。
摘要由CSDN通过智能技术生成

书生·浦语大模型实战营之 XTuner 微调 Llama 3 个人小助手认知
在这里插入图片描述

Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，XTuner 团队对 Llama 3 微调进行了光速支持！！！开源同时社区中涌现了 Llama3-XTuner-CN 手把手教大家使用 XTuner 微调 Llama 3 模型。
XTuner：http://github.com/InternLM/XTuner
Llama3-XTuner-CN： https://github.com/SmartFlowAI/Llama3-XTuner-CN/

XTuner 微调 Llama 3 个人小助手认知

让 Llama3 有"它是SmartFlowAI打造的人工智能助手"的自我认知，最终效果图如下所示：

了解本专栏 订阅专栏 解锁全文 超级会员免费看
段智华
关注
专栏目录
订阅专栏
【书生大模型实战】L1-XTuner 微调个人小助手认知任务
cjy_colorful0806的博客
08-02 588
当我们在测试完模型认为其满足我们的需求后，就可以对模型进行量化部署等操作了，这部分的内容在之后关于 LMDeploy 的课程中将会详细的进行讲解，敬请期待后续的课程吧！对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。比如我们这里微调的是书生·浦语的模型，我们就可以匹配搜索。，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。
书生·浦语 大模型实战营（第三期） 基础岛 第5关 XTuner 微调个人小助手认知
Pythonliu7的博客
08-18 710
微调（fine-tuning）是一种基于预训练模型，通过少量的调整（fine-tune）来适应新的任务或数据的方法。微调是在预训练模型的基础上，将模型中一些层的权重参数进行微调，以适应新的数据集或任务。预训练模型部分已经在大规模数据上得到了训练，它们通常是较为通用且高性能的模型，因此可以很好地作为新任务的起点。微调可以加快模型的收敛速度，降低模型过拟合的风险，并在不消耗过多计算资源的情况下获取较好的模型性能。
【书生大模型实战营（暑假场）】基础任务四 XTuner微调个人小助手认知
Tongcheng_98的博客
08-16 997
在我们的输入的这个命令中，我们的 CONFIG 对应的是上面搜索到的 internlm2_chat_1_8b_qlora_alpaca_e3 ,而 SAVE_PATH 则是当前目录 .。：指定了用于训练的模型和分词器的具体类型及其配置，包括预训练模型的路径和是否启用特定功能（如可变长度注意力），这是模型训练的核心组成部分。全量微调的模型（full fine-tuning）直接修改原模型的权重，并没有微调一个新的 Adapter，不需要进行模型整合的。三个路径即可实现快速的模型合并。
第二期书生·浦语大模型实战营优秀项目一览
qq_39967751的博客
06-25 474
书生·浦语社区于 2023 年年底正式推出了书生·浦语大模型实战营系列活动，至今已有两期五批次同学参加大模型学习、实战，线上课程累计学习超过 10 万人次。 实战营特设项目实践环节，提供 A100 算力支持，鼓励学员动手开发。第 2 期实战营共收到 500 多个项目申报，我们在众多的项目中为大家精选了 23 个优秀项目，现在就让我们一起欣赏下学员们的成果吧，看看他们是怎么将奇思妙想带入现实~
书生大模型实战（从入门到进阶）L1-XTuner 微调个人小助手认知
m0_73672030的博客
09-25 1046
本文是对书生大模型L1-XTuner 微调个人小助手认知部分的学习和实现
[书生浦语] 大模型实战：XTuner 微调 LLM : 1.8B
mycomin的博客
05-30 1010
在本节中主要就是带领着大家跑通了 XTuner 的一个完整流程，通过了解数据集和模型的使用方法、配置文件的制作和训练以及最后的转换及整合。那在后面假如我们也有想要微调出自己的一个模型，我们也可以尝试使用同样流程和方法进行进一步的实践！
书生·浦语训练营 第四讲：Xtuner微调 笔记
yidao0618的博客
04-19 894
LLM微调是一个将预训练模型在较小、特定数据集上进一步训练的过程，目的是精炼模型的能力，提高其在特定任务或领域上的性能。微调的目的是将通用模型转变为专用模型，弥合通用预训练模型与特定应用需求之间的差距，确保语言模型更贴近人类的期望。回顾第一讲中提到从模型到应用的典型流程如下：根据项目目标使用环境进行模型选型，如果业务场景需求比较复杂就需要进行模型微调，根据算力是否充足可以选择模型的全参数微调或部分参数微调。
书生大模型实战营（第3期）闯关记录（基础岛-XTuner 微调个人小助手认知）
qq_41884932的博客
08-09 767
- 使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知，记录复现过程并截图。微调（fine-tuning）是一种基于预训练模型，通过少量的调整（fine-tune）来适应新的任务或数据的方法。微调是在预训练模型的基础上，将模型中一些层的权重参数进行微调，以适应新的数据集或任务。预训练模型部分已经在大规模数据上得到了训练，它们通常是较为通用且高性能的模型，因此可以很好地作为新任务的起点。微调可以加快模型的收敛速度，降低模型过拟合的风险，并在不消耗过多计算资源的情况下获取较好
第四课：【XTuner 微调个人小助手认知】笔记
qq_44407313的博客
04-19 893
q1:为什么要微调？A:目前现有模型都是基座模型，是为了一般性任务进行预训练，运用于实际特定领域效果不佳，需要进行领域内微调q2:两种Finetune范式：A2:增量预训练微调：基座模型学习新知识（文章、书籍、代码）指令跟随微调：模型学会对话模板，根据人类质量进行对话（高质量对话，问答数据）高质量标注原始数据——>改为标准格式数据——>添加对话模板——>Tokenized数据——>添加Label——>开始训练标准数据格式添加对话模板，不同厂家有不同的模板。
书生·浦语大模型实战营之微调 Llama 3 实践与教程 （XTuner 版）
段智华的博客
04-22 270
书生·浦语大模型实战营之微调 Llama 3 实践与教程 （XTuner 版）Llama 3 近期重磅发布，发布了 8B 和 70B 参数量的模型，XTuner 团队对 Llama 3 微调进行了光速支持！！！开源同时社区中涌现了 Llama3-XTuner-CN 手把手教大家使用 XTuner 微调 Llama 3 模型。
书生·浦语大模型实战营之 火爆 Reddit！多模态 Llama-3 它来了 ！！ XTuner 微调 Llama3 图片理解多模态
段智华的博客
04-23 169
书生·浦语大模型实战营之 火爆 Reddit！多模态 Llama-3 它来了！！XTuner 微调 Llama3 图片理解多模态LLaVA-Llama-3-8B 已由 XTuner 团队推出，相比于 LLaVA-1.5，能力全面提升！(欢迎 Star)(欢迎 Star)
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1718
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
书生·浦语大模型（四）XTuner 微调 LLM：1.8B、多模态、Agent【理论笔记部分】
ww1132的博客
04-19 590
为什么要微调？把通用的基座模型通过微调，得到专业领域的模型。
使用 Llama 3.1 和 Qdrant 构建多语言医疗保健聊天机器人的步骤
myboyliu2007的专栏
09-26 1083
'sources': [Document(metadata={'Disease': '疟疾', '_id': '1497e650–06e7–458c-a542–9f8815e7303f', '_collection_name': 'healthcare_collection'}, page_content='疾病：疟疾描述：由疟原虫科原生动物寄生虫引起的传染病，可通过按蚊叮咬或受污染的针头或输血传播，是最致命的类型。我们需要翻译器的原因是，嵌入是从英语文本生成的，用户可以使用任何选择的语言。
第一弹：llama.cpp编译
joedan0104的专栏
09-25 653
1.编译llama.cpp命令行（电脑版本）；2.交叉编译安卓命令行版本。
【LLM】从零预训练一个tiny-llama
weixin_42914989的博客
09-24 314
本次掌握了数据集的预处理，并对预处理后的数据进行训练。了解模型如何基于已有的上下文生成后续 token 的机制。
丹摩智算平台部署 Llama 3.1：实践与体验
最新发布
网罗天下方法，方便你我开发！！！
09-26 1426
在最近的开发工作中，我有机会体验了丹摩智算平台，部署并使用了 Llama 3.1 模型。在人工智能和大模型领域，Meta 推出的 Llama 3.1 已经成为了目前最受瞩目的开源模型之一。今天，我将通过这次实践，分享在丹摩平台上部署 Llama 3.1 的实际操作流程以及我的个人心得。总体来说，丹摩智算平台提供了一个强大且高效的 AI 开发环境，尤其适合像我这样需要进行大模型部署和实验的开发者。无论是硬件资源的灵活选择，还是内置的环境配置和工具支持，都极大地简化了部署流程。
从零预训练一个tiny-llama#Datawhale组队学习Task2
fzyz123的博客
09-23 1088
Q：什么是Flash Attention？A：Flash Attention 是一种用于加速Transformer模型中自注意力（self-attention）机制的优化技术。传统自注意力机制的时间复杂度和内存消耗均为 O(N2)，其中 N是序列长度。Flash Attention 通过优化注意力计算的方式，能够在保持计算精度的同时显著降低计算成本，特别是内存消耗。Q：Flash Attention的机制是什么？如何实现这种优化的？
Llama 2: 开源预训练与微调聊天模型论文解析
Llama2是预训练和微调的大规模语言模型集合，旨在推进聊天式对话模型的发展。" 在论文"Llama 2: Open Foundation and Fine-Tuned Chat Models"中，作者们介绍了他们开发的最新成果——Llama2，这是一个包含预训练和...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

段智华

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值