《书生·浦语大模型全链路开源开放体系》学习笔记

于 2024-08-08 14:20:40 发布
阅读量84 收藏
点赞数 1
文章标签： 学习 笔记
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_43650129/article/details/141025462
版权

浦语官网 书生·浦语

浦语一年回顾

最新2.5模型概览

2.5的能力评测

超大上下文

解决复杂问题方式

浦语谱系

数据开源

预训练开发体系

微调XTuner

OpenCompass评测体系

部署LMdeploy

智能体

Lagent

MindSearch

茴香豆

特性

总结

代码海洋里的咸鱼
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1643
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
【第1节】书生·浦语大模型全链路开源开放体系
熊猫小妖的AI世界
04-17 1356
书生·浦语 InternLM介绍InternLM 是在过万亿 token 数据上训练的多语千亿参数基座模型。通过多阶段的渐进式训练，InternLM 基座模型具有较高的知识水平，在中英文阅读理解、推理任务等需要较强思维能力的场景下性能优秀，在多种面向人类设计的综合性考试中表现突出。在此基础上，通过高质量的人类标注对话数据结合 RLHF 等技术，使得 InternLM 可以在与人类对话时响应复杂指令，并且表现出符合人类道德与价值观的回复。
关于书生·浦语大模型全链路开源体系的笔记
GYX67的博客
07-21 379
从当下图标中我们可以看出大模型的发展趋势。当前，大模型已经成为发展通用人工智能的重要途经，它也逐渐从专业模型转变成通用模型。下面是书生·浦语大模型的发展历程。
学习笔记～书生浦语大模型全链路开源体系
m0_68405343的博客
05-21 346
从模型到应用，1.选模型2.业务场景3.模型微调4，算力评估5，模型是否需要做交互6，构建智能体7，模型评测，部署和上线。书生浦语大模型InterLM2千亿参数大模型，书生万卷1.0，了解书生整个开源历程。大模型成为发展通用人工智能的重要途径，专用模型到通用模型的发展转变趋势。超长上下文，优秀对话和创作体验 工具调用能力整体升级 突出的数理能力。代码解释器提升其算学能力，模型的实用数据分析功能，使用机器学习的算法。举例：模型作为AI助手，人文关怀的对话 想象力的创作。1，新一代数据清洗过滤技术。
大模型全链路开源体系（学习笔记）
weixin_43681522的博客
04-21 1352
随着国内央企通用人工智能的兴起，为打造大模型生态应用，各类比赛也比较火热，近期看到了上海人工智能实验室在做的书生浦语大模型，繁忙的工作之余有些业余时间跟小伙伴一起学习、打比赛，是学习笔记，也是作业。2024年1月17日，InternLM 2 已经开源，面向不同的使用需求，每个规格包含三个版本。- 7B 适用轻量级的研究和应用。- 20B 可有效支持更加复杂的使用场景。--可塑性的模型基座。--在Base的基础上，在多个能力方向进行了强化，大部分应用中考虑适用的优秀基座。
书生·浦语大模型全链路开源体系学习笔记
littleheart88的博客
02-20 206
第二部分，对书生·浦语全链路开源体系进行了介绍，从数据、预训练、微调、部署、评测以及落地应用几部分分别展开，描述了书生·浦语体系具备的能力以及提供的工具，能够达成的效果以及行业情况对比。课程从大模型的发展史开始进行展开，对大模型的基础知识进行详细的介绍，特别是从模型到应用如何落地进行了具体的阐述。通过课程的学习，不但加强了对大模型的认识，也对书生·浦语的大模型体系有了进一步的理解和体会。
【书生·浦语大模型全链路开源体系】学习笔记
weixin_64546620的博客
01-05 485
从模型到应用 模型：书生·浦语 ==> 应用：智能客服/个人助手/行业应用 全链路开放体系 数据 多模态融合 精细化处理 价值观对齐 预训练 微调 评测 部署 智能体
笔记：书生·浦语大模型全链路开源开放体系
m0_72473552的博客
06-12 234
学习笔记
学习笔记：书生·浦语大模型全链路开源体系
2401_83572169的博客
06-30 268
2，“理科”能力和模型尺寸关联性高：在语言和知识这类“文科”维度，中轻量级模型和重量级/闭源商业模型差距较小，但数学、推理、代码等维度上，性能和尺寸呈现较强相关性。4，模型主客观性能需综合参考：大量开源模型和API模型的客观性能和主观性能存在较大的偏差，社区仅仅需要夯实客观能力基础，更需要在偏好对齐和对话体验上下功夫。在 Base 基础上，在多个能力方向进行了强化 ，在评测中成绩优异，同时保持了很好的通用语言能力，是我们推荐的在大部分应用中考虑选用的优秀基座。有7B和20B两个规格。
书生浦语大模型实战课 第二课笔记
03-31
书生浦语大模型实战课 第二课笔记
书生·浦语大模型第二课
03-04
根据提供的信息，“书生·浦语大模型第二课”似乎是指一次课程或者教学活动的内容，主要涉及“浦语大模型”的相关内容。虽然提供的信息较为有限，但从这些线索中，我们可以推测出这可能是一次关于自然语言处理（NLP...
书生浦语大模型实战营微调部署至OpenXlab.zip
07-26
个人深耕AI大模型应用领域积累的成果，希望对您有所帮助。有大模型账号、环境问题、AI大模型技术应用落地方案等相关问题，欢迎详聊，能为您解决问题是我的荣幸！ 个人深耕AI大模型应用领域积累的成果，希望对您有所...
书生 浦语大模型实战训练营第二期 第三节笔记
04-14
书生 浦语大模型实战训练营第二期 第三节笔记
书生浦语大模型实战课 第二课作业（更新）
04-04
- **问题描述**：学员在调试过程中发现书生浦语大模型与其他已开源模型相比存在一定的性能差距。 - **分析讨论**： - **模型特性比较**：对比不同模型在参数规模、训练数据量以及算法设计等方面的差异，了解性能...
Zero123++ 论文学习
calvinpaean的博客
08-07 804
随着新视图生成模型的涌现，3D 内容生成领域取得了显著进展，这些模型利用了强大的 2D 扩散生成先验知识，这些 2D 扩散模型是在互联网上的大规模数据集训练得到的。如果没有全局条件，针对可见区域生成的内容还是不错的，但是对于不可见区域，则生成质量就急剧下降了，因为模型缺乏推理物体的全局语义的能力。Reference Attention 指的就是，在对模型的输入去噪时，对一个额外的参考图像使用去噪 UNet 模型，并将参考图像中得到的自注意力 key 矩阵和 value 矩阵附加到去噪模型的相应的注意力层。
日常学习--20240806
最新发布
xxm13679073037的博客
08-07 578
调优
【GCC】结合GPT4 延迟梯度学习2：延迟梯度的计算及阈值更新
突围
08-06 71
拥塞控制
HTML5新增元素属性学习
weixin_68441705的博客
08-06 243
placeholder：提示性语句，在文本输入框 上提示用户输入内容，当用户填充内容消失，删除内容又出现（用于提示用户输入用户名，密码，适合短的提示语句）2.datalist 表单新元素 配合input使用，有下拉菜单也可以输入内容（通常用于搜素引擎）autofocus：自动聚焦，进入注册界面，光标自动聚焦在输入框上，用于提升用户体验。min和max ：最大值 最小值 可以配合其他属性使用，用于数值型。required：必填项，用户如果不填，表单无法提交。autocomplete：自动填充，通常用于登录。
书生浦语大模型实战课：解决配置与端口问题
"书生浦语大模型实战课的第二课作业中，学员们通过视频教程进行学习，但在实际操作中遇到了一系列问题，包括端口配置、权限不足、端口被占用以及URL无法打开等。这些问题主要围绕SSH免密登录和端口占用问题展开。在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值