- 博客(13)
- 收藏
- 关注
原创 书生·浦语大模型实战营第二期 第7节作业
pip install -e 开始没有安装成功,导致缺少很多依赖。最后按操作指引把所有步骤都安装一边后完成了测评工作。
2024-04-24 10:04:24 174
原创 书生·浦语大模型实战营第二期 第7节笔记
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0),用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现:提供公平、公开、可复现的大模型评测方案全面的能力维度:五大维度设计,提供 70+ 个数据集约 40 万题的的模型评测方案,全面评估模型能力丰富的模型支持:已支持 20+ HuggingFace 及 API 模型分布式高效评测:一行命令实现任务分割和分布式评测,数小时即可完成千亿模型全量评测。
2024-04-24 09:07:54 598
原创 书生·浦语大模型实战营第二期 第6节作业
完成 AgentLego 直接使用部分,组装智能体“乐高”工具都设置好以后,至web端,输入图片,会自动读图片了~还有加入一个画图的工具,就能自动输出图片了~在做作业之前,先要做环境配置。
2024-04-21 21:42:21 358
原创 书生·浦语大模型实战营第二期 第6节笔记
AgentLego 目前提供了如下工具:Lagent 是一个轻量级开源智能体框架,旨在让用户可以高效地构建基于大语言模型的智能体。同时它也提供了一些典型工具以增强大语言模型的能力。
2024-04-21 15:04:56 337
原创 书生·浦语大模型实战营第二期 第4节作业
在本节中主要是跑通了 XTuner 的一个完整流程,通过了解数据集和模型的使用方法、配置文件的制作和训练以及最后的转换及整合。
2024-04-19 23:54:35 155
原创 书生·浦语大模型实战营第二期 第4节笔记
然而,若炼丹的材料——即数据集——本身质量低劣,那么无论我们如何调整微调参数(如同调整火候),无论进行多久的训练(如同控制炼丹时间),最终得到的结果也只会是低质量的。只有当使用了优质的材料,才可以进一步考虑炼丹的时间和方法。微调过程常被人们称为“炼丹”,意在强调炼丹过程中的材料选择、火候控制、时间把握以及丹炉的选择都至关重要。在此比喻中,可以将XTuner视为炼丹的丹炉,只要其质量可靠,不会在炼丹过程中出现问题,一般而言便能够顺利进行。二者都是在已有LLM的基础上,用新的数据训练一个新的小文件。
2024-04-19 20:22:02 294
原创 书生·浦语大模型实战营第二期 第5节作业
完成以下任务,并将实现过程记录截图:配置lmdeploy运行环境下载internlm-chat-1.8b模型以命令行方式与模型对话。
2024-04-14 14:29:39 196
原创 书生·浦语大模型实战营第二期 第5节笔记
大模型部署面临的挑战:计算量巨大、内存开销巨大、访存瓶颈。二、lmdeploy 简介:使用它调用模型的确快了很多。【LMDeploy 量化部署 LLM&VLM实战】课程。
2024-04-14 14:14:30 799
原创 书生·浦语大模型实战营第二期 第3节作业
我在豆哥上想创建一个关于星座相关的知识库的问答,导入了2篇相关的文档,分别尝试了pdf和word,测试下来,word文档豆哥理解力更强一些;但是,能通过输入的内容,能马上搭建起环境,回答与上传文档相关的问题,并形成互动,非常的厉害了。有些回答的不好,可能和我的提问方式也有关系,建议可以开设一门如何向豆哥提问的课程,帮助大家可以更好的跟豆哥进行互动。有些问题还是报错的,无法回答,简单的概括大意,名称解释是能够做到的,理解的深度还是需要再加强的,当然也有可能是我提问的方式不规范~面对同样的问题,我们的。
2024-04-13 21:22:05 391
原创 书生·浦语大模型实战营第二期 第3节笔记
由书生·浦语社区贡献者【北辰】带来【茴香豆:搭建你的 RAG 智能助理】讲解1、RAG 基础介绍2、茴香豆产品简介3、使用茴香豆搭建RAG知识库实战RAG(Retrieval Augmented Generation)技术,通过检索与用户输入相关的信息片段,并结合来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。
2024-04-11 16:42:09 210
原创 书生·浦语大模型实战营第二期 第1节笔记
InternLM2模型有非常卓越的性能,特别是在长文本建模和开放式主观评估方面,使用它可以很好的搭建各类agent。书生浦语有全链条开源开放体系:数据-预训练-微调-部署-评测-应用。书生万卷1.0 到书生万卷 cc 语料更多更丰富。
2024-04-01 23:03:00 134
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人