书生实战营基础岛第5关

最新推荐文章于 2024-09-01 16:57:39 发布
最新推荐文章于 2024-09-01 16:57:39 发布
阅读量99 收藏
点赞数 2
文章标签： python nlp pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44575875/article/details/140875719
版权

 

 微调前:

f339d2d1a20b4ed3bdb112a16133c6de.jpg

 微调后:

56f46e27fa09409b956e6a3ebfda68a8.jpg

 但是出现过拟合:

a721a7253d0849f3a718b44d7222ccb0.jpg

 减小数据量重新训练:

7af722179e5241c39e61a762ca0658dd.jpg

 

下饭且吃饱
关注
  • 2
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
书生实战营进阶岛第5关
weixin_44575875的博客
08-19 271
RAG（Retrieval Augmented Generation）技术，通过检索与用户输入相关的信息片段，并结合来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。RAG 能够让基础模型实现非参数知识更新，无需训练就可以掌握新领域的知识。本次课程选用茴香豆应用，就应用了 RAG 技术，可以快速、高效的搭建自己的知识领域助手。
书生实战营进阶岛第6关
weixin_44575875的博客
08-29 903
和相比区别是把internstudio换成了github codespace。随着硅基流动提供了免费的 InternLM2.5-7B-Chat 服务（免费的 InternLM2.5-7B-Chat 真的很香），MindSearch 的部署与使用也就迎来了纯 CPU 版本，进一步降低了部署门槛。那就让我们来一起看看如何使用硅基流动的 API 来部署 MindSearch 吧。
书生实战营第三期基础岛第五关任务
weixin_44555688的博客
08-09 120
Tutorial/docs/L1/XTuner at camp3 · InternLM/Tutorial (github.com)
书生大模型实战营基础岛第五关 XTuner微调个人小助手认知
climax1的博客
08-10 162
哦对，我们已经给internstudio上的所有开发机都设置了公钥，很轻松就启动了服务。从这里可以看出它并不知道自己是个什么东西。接下来我们要开始查看微调前的模型对话，看看是什么效果。当然我们要先改名字，让他成为一个我认识的人的助手。我们先创建对话文件，再执行脚本将数据写入文件。下面我们可以进行模型合并了也就是merge。OK，它已经知道自己是个什么东西了。各种依赖，库，还有xtuner的下载。创建微调目录，一键软连接到模型文件。我们进行了模型格式转换，也成功了。接下来我们访问网页进行对话。
书生大模型实战营基础岛关第五关——XTuner 微调个人小助手认知
weixin_44426750的博客
08-22 546
为了让模型能够认清自己的身份弟位，在询问自己是谁的时候按照我们预期的结果进行回复，我们就需要通过在微调数据集中大量加入这样的数据。在 XTuner 中提供了一键合并的命令 xtuner convert merge，在使用前我们需要准备好三个路径，包括原模型的路径、训练好的 Adapter 层的（模型格式转换后的）路径以及最终保存的路径。微调完成后，我们可以再次运行xtuner_streamlit_demo.py脚本来观察微调后的对话效果，不过在运行之前，我们需要将脚本中的模型路径修改为微调后的模型的路径。
书生实战营基础第五关：XTuner 微调个人小助手认知
krstpoliy的博客
08-04 169
微调完成后，再次运行xtuner_streamlit_demo.py脚本来观察微调后的对话效果，不过在运行之前，将脚本中的模型路径修改为微调后的模型的路径。执行脚本生成数据文件assistant.json，准备模型和数据集后选择配置文件。模型格式转换完成后，目录结构。对配置文件修改，进行训练。模型合并完成后，目录结构。训练得到了一个小助手。
书生实战营第三期进阶岛第五关任务
weixin_44555688的博客
08-25 195
【代码】书生实战营第三期进阶岛第五关任务。
【书生大模型实战营第三期 | 基础岛第5关-XTuner 微调个人小助手认知】
imath60的博客
08-10 186
通过学习XTuner的微调过程，我认识到了个性化助手的重要性以及微调技术在提升用户体验中的作用。文档的清晰结构和直观的对比示例，让我对微调前后的差异有了深刻的理解。它激发了我进一步探索和实践微调技术的兴趣。我相信，通过实践，我可以更深入地掌握XTuner的使用，并为我的个人小助手带来更丰富的功能和更好的性能。
书生大模型实战营-基础岛第五关 XTuner 微调个人小助手认知
sty0213的博客
08-09 153
为了让模型能够认清自己的身份弟位，在询问自己是谁的时候按照我们预期的结果进行回复，我们就需要通过在微调数据集中大量加入这样的数据。我们准备一个数据集文件。为了简化数据文件准备，我们也可以通过脚本生成的方式来准备数据。微调相当于重新训练出来一个额外的层，我们要将模型文件合并。下面我们对模型进行微调，让模型认识到自己是谁。的方式来微调一个自己的认知模型。然后执行该脚本来生成数据文件。，文件内容为对话数据。
书生浦语大模型实战课（第二期） 第二课作业
04-04
### 书生浦语大模型实战课（第二期）第二课作业知识点总结 #### 一、使用Powershell配置端口及权限问题处理 在学习过程中，遇到的第一个问题是在使用Powershell配置端口时出现问题，尝试修改端口号并复制密码，但...
书生浦语大模型实战课 第二课作业（更新）
04-04
### 书生浦语大模型实战课程第二课作业解析与技术难点详解 #### 一、课程背景概述 在书生浦语大模型实战课程中，第二课主要涉及模型的部署与调试过程。本次作业旨在通过实际操作加深学员对模型部署流程的理解，并...
书生·浦语大模型第二课
03-04
5. **实战项目指导**：最后，可能会安排一个或多个实战项目，让学员亲手实践如何利用浦语大模型解决实际问题，加深理解并提升技能。 ### 结论 综上所述，“书生·浦语大模型第二课”很可能是一次旨在深入探索中文大...
centos7 安装 superset4.0.2 教程
热门推荐
m0_37759590的博客
08-27 1万+
centos7 安装 superset4.0.2 教程
【python】关于判断空值None、判断len()=0，和 if not 的区别
Meggie35的博客
08-28 6353
python的“空”与“无”之辩，关于None，和空数值。在程序中，判断里面没有值和判断东西是不是为空，也是不一样的东西，我们可以往下看看具体的区别。
【Python-办公自动化】批量修改EXCEL指定内容
2202_76035290的博客
08-29 3023
欢迎来到"花花 Show Python"，一名热爱编程和分享知识的技术博主。在这里，我将与您一同探索Python的奥秘，分享编程技巧、项目实践和学习心得。无论您是编程新手还是资深开发者，都能在这里找到有价值的信息和灵感。我热衷于将复杂的技术概念以简单易懂的方式呈现给大家，让每个人都能享受到编程的乐趣。我相信，通过不断的学习和实践，我们都能够成为更好的开发者。如果您喜欢我的内容，别忘了点击关注哦！这样您就可以第一时间获取我的更新和分享。您的支持是我不断前进的动力。
JVM 内存参数
iOS逆向与安全
08-29 1890
它屏蔽了与具体操作系统平台相关的信息，使Java程序只需生成在Java虚拟机上运行的目标代码（字节码），就可以在各种平台上不加修改的运行。‌例如，‌可以将最小堆内存设置为2GB（‌-Xms2048m）‌，‌最大堆内存设置为4GB（‌-Xmx4096m）‌。如果初始化的高水位线设置过低，会频繁的触发Full GC，高水位线会被多次调整。一般来说，垃圾回收器都会有默认的对象晋升到老年代的年龄参数阈值，CMS默认是6，G1默认是15，不过这参数值也不是一成不变的，它会根据动态年龄判断规则来重新被赋值。
宝塔面板网站SSL证书到期如何手动和自动续签Let’s Encrypt
weixin_45734165的博客
08-27 1443
宝塔面板提供2种免费的SSL证书：宝塔SSL，Let’s Encrypt。前面第1，2步骤主要是手动续签，比较稳定可靠，唯一的缺点是需要进入后台进行操作，并且有时候可能忘记续签。实际上宝塔面板还提供了很多计划任务的脚本，可以自动续签Let’s Encrypt证书。不管是给网站部署SSL还是给网站SSL续签，利用宝塔后台来进行网站SSL证书的管理还是比较方便高效的。2.手动续签：网站设置后台点击【SSL】》【Let’s Encrypt】》【续签】1.手动续签：登录宝塔面板后台，点击【网站】》【设置】
【Python报错已解决】`TypeError: ‘numpy.ndarray‘ object is not callable`
最新发布
鸽芷咕的博客
09-01 188
在编程中，你是否遇到过尝试调用一个Numpy数组对象时出现了`TypeError: 'numpy.ndarray' object is not callable`的报错？这个问题通常是由于误将Numpy数组当成了一个函数来调用。接下来，我们将分析这个问题并提供解决方案。
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值