书生·浦语大模型全链路开源开放体系

最新推荐文章于 2024-11-09 18:03:01 发布
最新推荐文章于 2024-11-09 18:03:01 发布
阅读量447 收藏 10
点赞数 10
分类专栏： MMLab实战训练营 文章标签： 人工智能 语言模型
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/shengweiit/article/details/135372800
版权

书生·浦语大模型全链路开源开放体系

大模型成为热门关键词

在这里插入图片描述
大模型成为发展通用人工智能的重要途径

在这里插入图片描述

书生·浦语大模型开源历程

在这里插入图片描述
在这里插入图片描述

书生·浦语20B开源大模型性能

  • 全面领先相近量级的开源模型（包含Llama-33B、Llama2-13B以及国内主流的7B、13B开源模型）
  • 以不足三分之一的参数量，达到Llama2-70B水平
    在这里插入图片描述

从模型到应用

在这里插入图片描述

书生·浦语全链路开源开放体系

在这里插入图片描述

数据

在这里插入图片描述
总数据量 2TB
包含：

  • 文本数据 50亿个文档
  • 图像-文本数据集 2200万个文件
  • 视频数据 超1000个文件
    在这里插入图片描述

预训练

在这里插入图片描述

微调

  • 增量续训
    • 垂直领域知识 文章、书籍、代码等
  • 有监督微调
    • 高质量的对话、问答数据
      在这里插入图片描述

评测

在这里插入图片描述提出了OpenCompass评测体系
6大维度 80+评测集、40万+评测题目
在这里插入图片描述
在这里插入图片描述

部署

在这里插入图片描述
在这里插入图片描述

智能体

在这里插入图片描述
局限：

  • 最新信息和知识的获取
  • 回复的可靠性
  • 数学计算
  • 工具使用和交互
    在这里插入图片描述
    在这里插入图片描述
    在这里插入图片描述
书生浦语大模型全链路开源开放体系
weixin_52761982的博客
08-09 230
推理能力领先：综合推理能力相较于InternLM2性能提升20%支持100万字上下文自主规划和搜索，完成复杂任务。
书生浦语大模型全链路开源开放体系学习
weixin_42112760的博客
08-13 723
书生浦语大模型的开源体系经过一年努力，已实现从数据收集到模型部署的全链路打通。课程介绍了书生浦语的最新进展，包括7B和20B模型的开源及其性能提升。新版本模型在推理能力和上下文处理上表现优异，支持超长上下文和复杂任务解决。开源工具涵盖数据处理、模型微调、评测和部署，助力用户在科研和应用领域的创新。课程还强调了社区的协作与反馈机制，推动了模型的不断优化与迭代。
书生·浦语大模型全链路开源体系介绍
2401_85373396的博客
06-03 1001
随着人工智能技术的迅猛发展，大模型技术已成为当今人工智能领域的热门话题。2022 年 11 月 30 日，美国 OpenAI 公司发布了 ChatGPT 通用型对话系统并引发了全球 的极大关注，上线仅 60 天月活用户数便超过 1 亿，成为历史上用户增长最快的互联网 应用产品。2023 年 3 月 14 日，OpenAI 公司再次发布了升级版模型 GPT-4 又展现 出了更高阶的能力，再一次实现了技术飞跃，并在全球范围掀起大模型发展浪潮。
书生 浦语大模型全链路开源开放体系笔记
dongyi999的博客
11-06 378
书生浦语大模型的开源之路始于去年7月，从7B模型的开源开始，逐步迭代到如今的2.5版本，性能不断提升，甚至在某些方面可以与GPT-4媲美。书生浦语大模型的开源开放体系给我留下了深刻的印象，它不仅仅是一个模型，而是一整套从数据到应用的全链路解决方案。除了不同量级的InternLM模型，书生浦语还提供了针对特定场景的模型，例如InterLM-xComposer多模态模型和InternLM-Math数学模型，进一步扩展了应用范围。书生浦语大模型全链路开源开放体系的不断完善，为AI领域的发展注入了新的活力。
书生大模型全链路开源体系
weixin_46836850的博客
07-25 1675
2023年6月7日InternLM千亿参数语言大模型发布。2023年7月6日，InternLM千亿参数大模型全面升级，支持8K语境、26种语言，并全面开源，免费商用。2023年8月14日，书生万卷1.0多模态预训练语料库开源发布。2023年8月21日，升级版对话模型InternLM-Chat-7B v1.1发布，同时开源智能体框架Lagent，支持从语言模型到智能体升级转换。2023年8月28日，InternLM千亿参数模型参数量升级到123B。
L1 书生浦语大模型全链路开源开放体系
fritz_liao的博客
09-03 257
全链路开源开放体系：指由数据收集（书生·万卷）、数据标注（LabelLLM/LabelU）、模型训练（InternEvo，降低了硬件要求）、模型微调（XTuner）、模型评测（OpenCompass，广泛用于头部企业）、基于模型的Agent、RAG、搜索引擎、AI应用部署（LMDeploy）的方案实现及开源形成的体系。高质量合成数据：基于规则的数据构造、基于模型的数据扩充、基于反馈的数据生成。智能体：由于模型的局限性（无法实时获得最新信息、计算能力不够可靠等），需要模型与外部工具交互来提高模型的可靠性。
基础岛 - 书生·浦语大模型全链路开源开放体系
纸上得来终觉浅 绝知此事要躬行
08-06 532
书生·浦语大模型全链路开源开放体系
书生·浦语大模型全链路开源体系
weixin_39897979的博客
01-04 1767
书生·浦语大模型全链路开源体系介绍，包括数据、预训练、微调、部署、评测、应用端到端全流程体系。
01 书生·浦语大模型全链路开源体系
Wzxdecsdn的博客
01-04 653
书生·浦语大模型全链路开源体系简介
【 书生·浦语大模型实战营】学习笔记（一）：全链路开源体系介绍
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
03-31 1806
本文为实战营第一次课程笔记，主要分为两个部分，第一部分从书生·浦语大模型发展、分类、组成进行详细介绍，方便大家理解。第二部分为对 InternLM2技术报告解读，后续系列会继续更新，欢迎大家交流！
【第1节】书生·浦语大模型全链路开源开放体系
熊猫小妖的AI世界
04-17 1541
书生·浦语 InternLM介绍InternLM 是在过万亿 token 数据上训练的多语千亿参数基座模型。通过多阶段的渐进式训练，InternLM 基座模型具有较高的知识水平，在中英文阅读理解、推理任务等需要较强思维能力的场景下性能优秀，在多种面向人类设计的综合性考试中表现突出。在此基础上，通过高质量的人类标注对话数据结合 RLHF 等技术，使得 InternLM 可以在与人类对话时响应复杂指令，并且表现出符合人类道德与价值观的回复。
书生·浦语大模型全链路开源体系（LLM/AGENT/多模态/应用部署）从入门到精通
熊猫小妖的AI世界
04-17 1009
书生浦语LLM大模型教程
书生·浦语大模型全链路开源体系（陈恺|上海人工智能实验室 青年科学家）-听课笔记
weixin_60280805的博客
01-03 1382
多模态智能体工具箱AgentLego。- 浦语大模型全链路开源体系生态。全链路开源开放体系|预训练。全链路开源开放体系|智能体。全链路开源开放体系|数据。全链路开源开放体系|微调。全链路开源开放体系|微调。全链路开源开放体系|部署。轻量级智能体Lagent。书生·浦语大模型系列。
【 书生·浦语大模型实战营】学习笔记（二）：轻松玩转书生·浦语大模型趣味Demo
专注大数据与人工智能技术分享，欢迎私信加群互相学习！
04-05 1256
本文为实战营第二次课程笔记，主要分为两个部分，第一部分部署 InternLM2-Chat-1.8B 模型进行智能对话。第二部分为完成 Lagent 工具调用 数据分析 Demo 部署，后续系列会继续更新，欢迎大家交流！
探索App Intents：让你的应用与Siri无缝互动的新方式
最新发布
jixn的博客
11-09 1516
苹果推出了一个新框架——App Intents，使开发者可以在iOS 18.2+、macOS 15.2+等平台上集成Siri和Apple Intelligence，实现对应用内容的读取和操作。App Intents使应用的功能和内容能无缝融入系统体验中，例如Siri、Spotlight搜索、快捷指令和小组件，让用户可以轻松访问应用核心功能，并获得更智能的Siri帮助。：表示应用内容，如照片、联系人或文件。：用户可以对 Siri 发出指令，例如“查找我的航班”或“添加待办事项”，Siri直接与应用交互。
掌握AIStarter新功能，轻松关闭广告享受纯净浏览体验
ai_xiaogui的博客
11-07 428
AIStarter的广告拦截器是一项集成在平台内部的新特性，它允许用户根据自己的喜好设置广告过滤规则。无论是烦人的横幅广告、视频前贴片广告还是弹窗广告，都可以通过简单的设置被有效屏蔽。这项功能不仅提升了用户的浏览效率，还保护了用户的隐私安全。在数字时代，拥有一个清爽无干扰的网络环境对每个人都至关重要。AIStarter的广告拦截器正是为此而设计，它帮助用户夺回了对个人浏览体验的控制权。现在就尝试启用这项功能，开始享受一个更加干净、高效的上网体验吧！不要广告！关闭广告！
一次薅国家超算平台的记录
weixin_55179972的博客
11-07 407
参与 谁是下一个“AI”跃人 -AI体验推介活动，赢取千元算力券！（https://www.scnet.cn/home/subject/modular/index270.html）2. Clone开源的Llama3 Chinese （https://github.com/LlamaFamily/Llama-Chinese）活动名称主题：国家超算互联网「AI跃升季」：谁是下一个“AI”跃人 - AI算力体验活动。其中位置1，2替换为商品基模型和训练出来的微调模型。模型改为商城下载的模型。2、运行的过程记录。
在后LLM时代，关于新一代智能体的思考
langboat_mengzi的博客
11-07 775
同时，新一代智能体工具平台应具备与基座LLM保持独立的多层次智能体系，无需依赖单一大模型或者技术供应商，如此一来，有利于实现模块化开发，具备较强的可维护性，同时还能够建立良好的生态，促进智能体的繁荣发展。而“慢思考”是指在基础模型的基础上，当处理一些复杂指令时，智能体将需求拆解成多个子任务，会调用不同的工具来完成任务，并对结果进行反思、确认，这一过程体现了一种类似于人类思维的“系统 2”的过程，即 step-by-step、可解释的且能导致更准确结果的过程。这些能力对于智能体具有重要的作用和价值。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值