【大模型】L1.1 书生·浦语大模型开源开放体系

最新推荐文章于 2024-11-01 13:45:28 发布
最新推荐文章于 2024-11-01 13:45:28 发布
阅读量171 收藏 3
点赞数 2
分类专栏： 书生大模型课程笔记 文章标签： 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Master__Bob/article/details/141459297
版权

主要为大家介绍这个体系~

InternLM就是书生浦语大模型的一个别称

近年发展的大模型性能天梯图
在这里插入图片描述

InternLM2.5概览

  • 推理能力提升20%
  • 支持100w字的上下文理解能力（对比gpt-4o为128k）
  • 自主规划和搜索完成复杂任务（需要借助外部工具）

书生·浦语开源模型谱系

  • 1.8B：超轻量级。可用于端侧应用或者开发者快速学习上手
  • 7B：轻量级研究和应用提供支撑
  • 20B：综合性能更强，支持复杂的实用场景
  • 102B：闭源模型

全链条

  • 数据：书生·万卷，开源多模态语料库
  • 预训练框架：InternEvo
  • 微调：XTuner
  • 部署：LMDeploy
  • 评测：OpenCompass
  • 应用：
    • MindSearch：思索式开源搜索应用
    • Lagent：支持代码解释器的智能体框架
    • MinerU：高效文档解析工具
    • HuixiangDou：基于专业知识库的群聊助手

上面提到的微调、部署、评测的工具之后都会介绍使用~

YoungerBob
关注
专栏目录
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1783
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
【第 2 节】轻松玩转书生·浦语大模型趣味 Demo
熊猫小妖的AI世界
04-17 1135
1.2.1 什么是大模型？大模型通常指的是机器学习或人工智能领域中参数数量巨大、拥有庞大计算能力和参数规模的模型。这些模型利用大量数据进行训练，并且拥有数十亿甚至数千亿个参数。大模型的出现和发展得益于增长的数据量、计算能力的提升以及算法优化等因素。这些模型在各种任务中展现出惊人的性能，比如自然语言处理、计算机视觉、语音识别等。这种模型通常采用深度神经网络结构，如 Transformer、BERT、GPT（ Generative Pre-trained Transformer ）等。
书生·浦语大模型全链路开源体系介绍
2401_85373396的博客
06-03 992
随着人工智能技术的迅猛发展，大模型技术已成为当今人工智能领域的热门话题。2022 年 11 月 30 日，美国 OpenAI 公司发布了 ChatGPT 通用型对话系统并引发了全球 的极大关注，上线仅 60 天月活用户数便超过 1 亿，成为历史上用户增长最快的互联网 应用产品。2023 年 3 月 14 日，OpenAI 公司再次发布了升级版模型 GPT-4 又展现 出了更高阶的能力，再一次实现了技术飞跃，并在全球范围掀起大模型发展浪潮。
01 书生·浦语大模型全链路开源体系
Wzxdecsdn的博客
01-04 644
书生·浦语大模型全链路开源体系简介
书生大模型全链路开源体系
weixin_46836850的博客
07-25 1660
2023年6月7日InternLM千亿参数语言大模型发布。2023年7月6日，InternLM千亿参数大模型全面升级，支持8K语境、26种语言，并全面开源，免费商用。2023年8月14日，书生万卷1.0多模态预训练语料库开源发布。2023年8月21日，升级版对话模型InternLM-Chat-7B v1.1发布，同时开源智能体框架Lagent，支持从语言模型到智能体升级转换。2023年8月28日，InternLM千亿参数模型参数量升级到123B。
书生浦语大模型全链路开源体系学习-L1
weixin_57128596的博客
07-18 482
对数据集的评测采用了更加准确的循环评测策略，比如：有些测试集它的选项是A、B、C、D，那么大模型就有猜测的因素导致对模型真实能力分析有影响。这些精度会影响模型的计算效率，内存占用、以及最终的精度。，它是模型理解上下文的一种方式，它需要记住（缓存）之前看到的词（k代表key，v代表value）。模型在生成下一个字符（token）时，会依赖之前生成的token，就像写故事一样，下一个plot依赖于之前的情节。与编码器不同的是，它的自注意力会屏蔽掉未来尚未生成的词，意思就是说主要用于token的生成当中，模型。
书生·浦语大模型全链路开源体系
Shirley000708的博客
04-24 254
书生·浦语大模型全链路开源体系
书生·浦语大模型实战营
sorrowyn的博客
05-11 1962
Lagent 是一个轻量级、开源的基于大语言模型的智能体（agent）框架，支持用户快速地将一个大语言模型转变为多种类型的智能体，并提供了一些典型工具为大语言模型赋能。它的整个框架图如下:流式输出：提供 stream_chat 接口作流式输出，本地就能演示酷炫的流式 Demo。接口统一，设计全面升级，提升拓展性，包括：Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽，模型切换可以游刃有余；
第五章书生·浦语大模型全链路开源体系
huangpizhe2380的博客
07-28 1184
专用模型：针对特定任务，一个模型解决一个问题。通用大模型：一个模型应对多种任务、多种模态。
大语言模型 InternLM2（书生·浦语） 一键部署
2401_82469710的博客
08-09 996
本人实际部署 InternLM2-Chat-7B 模型消耗显存 20 GB 左右（受实际参数配置影响，仅供参考），因此租用一张 RTX 3090 或者 RTX 4090 的 GPU 实例就能满足模型运行条件。
【 书生·浦语大模型实战营】学习笔记（六）：Lagent & AgentLego 智能体应用搭建
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
05-03 1260
本篇笔记内容主要为 【书生·浦语大模型实战营】作业（六）：Lagent & AgentLego 智能体应用搭建智能体的笔记 ，主要对智能体应用理论部分及具体搭建流程详细介绍，并分别进行实战应用及可视化展示，欢迎大家交流学习！
NL2SQL实践系列(2)：2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
丨汀、的博客
04-14 1686
NL2SQL实践系列(2)：2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
【第7节】OpenCompass 大模型评测实战
熊猫小妖的AI世界
04-24 941
上海人工智能实验室科学家团队正式发布了大模型开源开放评测体系 “司南” (OpenCompass2.0)，用于为大语言模型、多模态模型等提供一站式评测服务。开源可复现：提供公平、公开、可复现的大模型评测方案全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力丰富的模型支持：已支持 20+ HuggingFace 及 API 模型分布式高效评测：一行命令实现任务分割和分布式评测，数小时即可完成千亿模型全量评测。
ORB-SLAM2源码学习：ORBextractor.cc：IC_Angle 利用灰度质心法求解关键点方向角
2301_76831056的博客
11-01 438
IC_Angle 利用灰度质心法求解关键点方向角并在computeOrientation函数中被调用计算图像中所有特征点的方向。
点云学习笔记3——读取点云文件、进行统计滤波/直通滤波后可视化
qq_64095888的博客
10-29 179
【代码】点云学习笔记3——读取点云文件、进行统计滤波后可视化。
diffusion model 学习笔记
最新发布
wubing's 博客
11-01 579
郎之万公式: 描述了粒子做随机布朗运动 (粒子位置随时间变化的关系), 是一种 SDE, 描述了 由梯度力(即.即我们在无条件模型 DDPM 估计的噪声中添加一个微小的扰动(. 基本上,在采样一半时,基本上预测的。输出的是噪声的估计, 这个估计的噪声。通过上面的公式，我们可以知道，当知道。),就可以作为条件模型的噪声估计.首先,假设我们已经有了一个训练好的。: 每一步中保留的原始信号的比例。的计算有各种不同的方法，). 已经接近于真实的。)影响的系统的时间演化.也就是,我们训练的网络。
jsp web学习二(比较老的啦)
qq_52122048的博客
10-29 1037
JavaBean模式(MVC)适合开发复杂的web应用，在这种模式下，servlet负责处理用户请求，jsp负责数据显示，javabean负责封装数据。Servlet+JSP+JavaBean模式程序各个模块之间层次清晰，web开发推荐采用此种模式。一个良好的JavaWeb项目架构应该具有以上的11个包，这样显得层次分明，各个层之间的职责也很清晰明了，搭建JavaWeb项目架构时，就。
人工智能入门要学习多久？
cd_farsight的博客
10-31 218
人工智能是一个快速发展的领域，新的技术和算法不断涌现。这可能需要你定期投入时间，比如每月至少花费几个小时来跟踪最新的研究和发展。如果你是计算机科学或相关专业的学生，或者对计算机科学有较深的兴趣，可能能更快地掌握。实践项目的时间可以因项目的复杂性和范围而异，通常需要几个月的时间来完成。学习人工智能所需的时间可以根据个人的学习速度、目标和深度有所不同。这通常需要几个月的时间，具体取决于个人的数学背景。：Python是进行人工智能学习的主要语言，建议从基础开始学习，这也是一个月左右的时间可以掌握。
【我的 PWN 学习手札】setcontext + ROP
Mr_Fmnwon的博客
10-28 806
setcontext的gadget能够“恢复上下文”，即设置寄存器的值。除了可以利用其执行shellcode，还可以实现ROP来getshell。本篇介绍了利用setcontext+ROP的方法，ORW地打印flag信息。
书生·浦语大模型 黑屏
06-13
"书生·浦语"并不是一个广泛为人知的特定模型，可能是某个特定项目、产品或者人物的代称。由于信息有限，我无法提供详细的介绍。如果你是在问关于某个特定领域的大模型，比如人工智能研究中的一个模型，通常这类模型是由大型科技公司或研究机构开发的，如阿里云的通义千问或谷歌的BERT等。如果这是个虚构的名字，那可能是一个文学作品或者游戏中的角色。 若你想了解类似"浦语"这样的人工智能模型，通常这类模型会涉及自然语言处理技术，能够进行语言理解和生成，例如对话系统、文本翻译或内容创作。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值