书生·浦语大模型第一课笔记

最新推荐文章于 2024-07-25 14:12:59 发布
最新推荐文章于 2024-07-25 14:12:59 发布
阅读量391 收藏 9
点赞数 7
文章标签： 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gaxzj/article/details/135415566
版权
上海人工智能实验室的开源项目书生浦语大模型，拥有完善的体系，包括大规模多模态数据集、xtuner微调工具、oepncompress评测平台及LMDeploy部署方案，支持多模态智能体AgentLego的构建。
摘要由CSDN通过智能技术生成

书生浦语大模型是上海人工智能实验室搞得开源项目，可以说大模型领域的openmmlab。
其强大之处就在于其有一个非常完善的体系，具体来讲：

数据层面

推出了书生万卷多模态开源数据集，其包含总计超2TB多模态多领域数据，其中文本数据超1TB，图像-文本对超140GB，视频数据超900GB，并且文本数据还进行了价值观对齐

模型微调

在大语言模型的应用中，应用xtuner，可以使用8G消费级显卡进行微调训练

数据评测

使用oepncompress进行评测，覆盖范围全面，包括语言，学科，知识，理解，推理以及安全多个维度

模型部署

基于LMDeploy进行大模型部署，包含轻量化，支持动态推理，高效的k/v缓存处理

智能体

多模态智能体AgentLego

gaxzj
关注
  • 7
    点赞
  • 踩
  • 9
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
书生·浦语大模型第二课
03-04
根据提供的信息，“书生·浦语大模型第二课”似乎是指一次课程或者教学活动的内容，主要涉及“浦语大模型”的相关内容。虽然提供的信息较为有限，但从这些线索中，我们可以推测出这可能是一次关于自然语言处理（NLP...
书生浦语大模型 第一课笔记
ph_2021的博客
03-31 136
书生浦语大模型 第一节课笔记
weixin_42291933的博客
03-31 281
陈恺老师介绍了书生·浦语大模型的全链路开源体系，首先老师介绍了通用人工智能的发展趋势，NLP领域从特定任务模型向通用大模型的转变。老师还介绍了Interlm2的提升，包括支持多模态、8K语境和不同尺寸的模型，更好地提升语言建模能力、对话交互和智能体框架方面的能力。
书生·浦语大模型第四课笔记
gaxzj的博客
01-14 588
Finetune模型一是增加新的数据 ，二是设计模板指令进行微调指令跟随微调，需要设定几种不同角色，设计出N组对话不同的大模型的对话模板是不同的xunter的中的微调使用的是LoRA和QLoRAxtuner是一个打包好的大模型微调工具箱xtuner可以理解一个命令，可以挑选配置模板并且一键训练。
书生·浦语大模型第三课笔记
gaxzj的博客
01-11 405
这节课主要介绍的如何使用InternLM和LangChain搭建属于自己的知识库。
书生·浦语大模型 第五课 笔记
01-14 412
文档指导地址：https://github.com/InternLM/tutorial/blob/main/lmdeploy/lmdeploy.md
书生浦语大模型实战营第一课笔记
lsjmax的博客
03-27 395
实际从模型到应用中间还间隔比较多步骤，个别步骤还是比较复杂和有难度，为此，书生浦语提供了全链路的开源体系，降低这个过程的难度。高效的轻量级预训练框架，在减少通信开销，通信预计算的重叠，长序列训练，容错性等方面做了很多功夫进行优化。第一节课主要对大模型进行介绍，特别是书生浦语大模型的发展历史和目前的全链路开源体系进行总体介绍。通用大模型：一个模型应对多种任务，多种模态。一个模型可以应对文本，语音，图像等相关任务。上传表格，可以根据用户的要求，进行数据的分析和画图展示，以及采用机器学习模型进行建模。
书生浦语大模型-第三课笔记
liusao123的专栏
04-07 388
RAG: 检索增强生成， 通俗理解为检索引擎，从知识库中所有相关内容，结合大语言模型生成回答。第一步： 生成索引， 将知识源文件，网页等分割成chunk，编码成向量存储到向量数据库中。第二步： 将用户的问题编码成向量在向量数据库中检索第三步： 将检索到的片段与远程问题一起作为提示给大模型生成最终回答的问题，返还给用户三种RAG的范式：Naive RAG： 即索引，检索，生成三部分构成的最基本的泛式， 这种范式经常用于简答的问答系统和信息检索场景中Advanced RAG： 在三个基础部分之外对检索前后都进行
书生·浦语大模型第一节课笔记
m0_60895722的博客
04-05 142
书生浦语2.0体系提供了7B和20B的规格，各自对应三个不同的模型版本，分别是基座模型，强化版基座模型和经过优化对话功能的聊天模型。
书生·浦语大模型实战营-第一课笔记
02-14 479
首先了解了大模型的发展历程，从GPT1到GPT4的发展历程，大模型经历自OPENAI发布GPT3.5后进入了快速发展阶段，成为了技术界高度关注的热门技术。课程解决了我的一个疑问，怎么使用大模型，给了我一个非常明确的实践路线。从数据、预训练、微调、部署、评测和应用，书生浦语提供了丰富的工具支撑，解决了开展这些工作的基础工具。后续工作中，我重点关注数据准备和微调，重点学习这两部分，期待在工作中真正实现大模型的落地应用。大模型的出现改变了以往通用人工智能的困局，使得通用人工智能在通用领域的应用变得有可能。
书生·浦语大模型第三期实战营第一课笔记+作业
m0_53217058的博客
07-14 229
test.sh。
书生浦语大模型实战课 第二课作业（更新）
04-04
### 书生浦语大模型实战课程第二课作业解析与技术难点详解 #### 一、课程背景概述 在书生浦语大模型实战课程中，第二课主要涉及模型的部署与调试过程。本次作业旨在通过实际操作加深学员对模型部署流程的理解，并...
书生浦语大模型实战营微调部署至OpenXlab.zip
最新发布
07-26
个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所...
书生浦语大模型实战课（第二期） 第二课作业
04-04
### 书生浦语大模型实战课（第二期）第二课作业知识点总结 #### 一、使用Powershell配置端口及权限问题处理 在学习过程中，遇到的第一个问题是在使用Powershell配置端口时出现问题，尝试修改端口号并复制密码，但...
vite5+vue3开发阅读APP实战笔记20240725
Python私教
07-25 367
修改src/page/home/index.vue，使用组件和API。注意，这里无论是组件还是API，都不需要我们手动引入，我们配置了自动导入以后，vite会帮我们自动导入。创建 src/page/home/index.vue。修改 vite.config.js。修改vite.config.js。修改 src/main.js。修改src/App.vue。
Golang学习笔记20240725，Go语言基础语法
Python私教
07-25 519
如果我们在遍历的时候，不想要key或者value，也可以用下划线替代，下划线叫做匿名变量。go语言里面的switch语句每个case天生就是独立的，不需要加break。指针可以直接对内存地址进行操作。使用*表示指针，使用&取地址。切片在go语言里面非常常用，因为其有动态扩展的特性。运行方式3：goland右键运行。使用加号可以对字符串进行拼接。
学习笔记-系统框图传递函数公式推导
weixin_45875994的博客
07-24 765
输出C(s)是前向路径（通过G(s)）的输出与反馈路径（通过H(s)）的输出之差（在负反馈系统中）。因此，我们可以写出以下关系式：这里，G(s)R(s)是前向路径的输出，而G(s)H(s)C(s)是反馈路径的输出（注意，反馈路径的输出先经过H(s)，再与前向路径的输出相减）。
谷粒商城实战笔记-50-51-商品分类的删除
epitomizelu的专栏
07-23 551
这两节的内容是开发商品分类的删除功能。
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值