书生大模型全链路开源体系

最新推荐文章于 2025-05-21 15:00:33 发布
最新推荐文章于 2025-05-21 15:00:33 发布
阅读量621 收藏 21
点赞数 28
分类专栏： 面试题汇总与解析 文章标签： spring cloud spring boot spring 技术 css3
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/kelai_6792/article/details/142305803
版权

哔哩哔哩：https://www.bilibili.com/video/BV1Rc411b7ns/

简介

大模型是发展通用人工智能的重要途径。从专用模型（AlphaGo、人脸识别、德州扑克等）到通用大模型，一个模型应对多个任务、多种模态。

书生-浦语大模型

书生-浦语大模型陆续推出：

  • InternLM-7B：70亿参数，8k语境，26种语言
  • InternLM-20B：200亿参数，4k语境训练，推理可达16k
  • InternLM-123B：千亿参数，

从模型到应用

从模型到应用是一个长链条：模型选型-续训/全参数微调（算力足够）-部分参数微调（算力不足，如LoRA）-构建智能体（与外部系统进行交互）-模型评测-模型部署。

全链条开源体系

书生-浦语全链条开源体系：

  • 数据：书生-万卷
  • 预训练框架：InterLM-Train
  • 微调：XTuner
  • 部署：LMDeploy
  • 应用：Lagent、AgentLego

书生-万卷

50亿文档，1TB数据量
OpenDataLab 开放数据平台：30+模态，80TB数据

InterLM-Train

可扩展
高性能
无缝对接HuggingFace
开箱即用：支持多规格语言模型

XTuner

微调
增量续训：让基座模型学习到一些新知识，如垂直领域知识
训练数据：文字、书籍或代码等。

有监督微调：让模型学会和理解各种指令，或者注入少量领域知识。
训练数据以高质量对话、问答数据为主

XTuner：支持多种微调算法，适配Huggingface、ModelScope的模型或数据集，自动优化加速，适配多种硬件（消费级显卡+数据中心显卡）

OpenCompass

大模型开源评测体系：6个维度进行评测。
主要面向基座模型和对话模型。

LMDeploy

大模型部署LMDeploy：

  • 模型并行
  • 低比特量化
  • Attention优化
  • 计算和访存优化
  • 持续批处理。

支持模型的轻量化（4bit权重、8bit k/v）、推理(turbomind & pytorch)和服务(open-ai server, gradio, triton inference server)，对外提供python、grpc、restful接口。

Lagent

LLM局限：最新知识获取；回复可靠性；数学计算；工具使用和交互。
使用LLM驱动智能体。
轻量级Lagent框架：
ReAct：根据输入选择工具
ReWoo：根据输入划分计划
AutoGPT：人工干预

支持多种大语言模型，集成了一些工具。

AgentLego

多模态智能体工具箱，聚焦工具集合。
支持多种主流智能体系统，如langchain、transformers agent、Lagent
支持多模态工具调用接口
支持一键式部署。

Lagent案例

短期记忆
推理与计划
长期记忆
环境互动
多智能体写作

Agent不是一个app，它是应用LLM的框架。
计划、行动、反馈、学习
agent架构
LLM for agent（agent对LLM的要求）：

  • 逻辑推理能力
  • 信息抓取能力
  • 指令遵循能力
  • 工具使用能力

提示工程思维模型

  • 把模型想象成没有任何背景信息的新人 stateless
  • 平行宇宙概念模型 model pre-training
  • 模型需要文本输出来思考 auto-regressive

工具：code copilot； EasyDict

© 著作权归作者所有,转载或内容合作请联系作者


喜欢的朋友记得点赞、收藏、关注哦！！！

L1G1000——书生大模型全链路开源体系
taoismimortal的博客
01-18 264
书生大模型全链路开源开放体系，由上海人工智能实验室精心打造，是一个全方位、一站式的人工智能开源平台。它旨在为全球的学术研究者、开发者以及行业应用专家提供从数据处理到模型部署的全流程支持，降低大模型研发的技术门槛，加速人工智能技术的普及与创新。
基础-1-书生大模型全链路开源体系
weixin_44120743的博客
08-09 1422
经典的问答大模型，智能体MindSearch，能够在挥发时更加的智能，更符合提问的需求，还能由此生成更进一步的内容，类如下图中的思考。利用模型的能力辅助人工标注，提高数据标注的效率和质量，进一步优化模型的训练数据。这些核心技术思路体现了书生大模型在设计和开发过程中的迭代、数据驱动和智能化的特点，旨在通过不断的自我优化和学习，提高模型的性能和适应性，以满足各种复杂的应用场景。书生大模型的开源工具体系为用户提供了从模型训练到部署的全链条支持，有：模型训练框架、数据处理工具、模型评估工具、模型部署方案。
第四期书生大模型实战营【基础岛】—— 书生大模型全链路开源体系
weixin_45730545的博客
02-07 917
您可以轻松部署它来构建您自己的搜索引擎，可以使用闭源 LLM（如 GPT、Claude）或开源 LLM（InternLM2.5 系列模型经过专门优化，能够在 MindSearch 框架中提供卓越的性能；）是一种评估方法，它通过在长文本中随机插入关键信息，形成大型语言模型(LLM)的Prompt。基于InternEvo训练框架，我们累计发布了一系列大语言模型，包括InternLM-7B系列和InternLM-20B系列，这些模型在性能上显著超越了许多知名的开源LLMs，如LLaMA和其他模型。
深入解析Spring Boot与微服务架构：从入门到实践
intwei的博客
05-20 461
Spring Boot是一个基于Spring框架的快速开发工具，旨在简化Spring应用的初始搭建和开发过程。它通过自动配置和约定优于配置的原则，减少了开发者的配置工作，使得开发者可以专注于业务逻辑的实现。微服务架构是一种将单一应用程序划分为一组小型服务的方法，每个服务运行在其独立的进程中，并通过轻量级机制（如HTTP RESTful API）进行通信。模块化：每个服务可以独立开发、部署和扩展。技术多样性：不同服务可以采用不同的技术栈。容错性：单个服务的故障不会影响整个系统。
Java大厂求职面试：探讨Spring Boot与微服务架构
linuxjavac6的博客
05-18 961
谢飞机：嗯，Spring Boot和WebSocket可以结合使用来创建实时通信应用。谢飞机：可以采用微服务架构，使用Spring Cloud进行服务拆分和负载均衡。谢飞机：STOMP是一个简单的文本导向消息协议，可以用于WebSocket的消息传输。谢飞机：可以用Spring Security进行访问控制，结合OAuth2进行认证……张老师：电商平台需要处理大量的订单数据，你会如何设计数据库架构以支持快速查询和写入？张老师：在线教育平台需要支持大量视频存储和检索，你会如何设计系统架构。
深入解析Spring Boot与Kafka的集成实践
intwei的博客
05-20 456
Kafka是由Apache软件基金会开发的一个开源流处理平台，具有高吞吐量、低延迟、可扩展性强等特点。Topic：消息的分类，生产者将消息发送到特定的Topic，消费者从Topic订阅消息。Broker：Kafka集群中的单个节点，负责存储和转发消息。Producer：消息的生产者，负责将消息发送到Kafka集群。Consumer：消息的消费者，负责从Kafka集群订阅并消费消息。Partition：Topic的分区，用于提高并行处理能力。
Spring Boot集成Spring AI与Milvus实现智能问答系统
最新发布
intwei的博客
05-21 230
通过本文的介绍，开发者可以快速掌握如何在Spring Boot项目中集成Spring AI和Milvus，构建智能问答系统。未来可以进一步扩展功能，如支持复杂工作流或智能客服系统。
Spring Boot 项目的计算机专业论文参考文献
qiuyeyyy的博客
05-17 1161
基于 SpringMVC+ECharts 的可视化数据展示平台设计 [A]. 第三十四届中国（天津）2020’IT、网络、信息技术、电子、仪器仪表创新学术会议论文集 [C]. 天津市电子学会、天津市仪器仪表学会，天津市电子学会，2020: 4。崔娟，章恒，马尧，田全红，金瑞欣，马鹏，王小龙，杨梓涵，张园琳，杨元娟，陈春霖。朱文龙，杨双双，廉佐政，王丽婧，葛海淼。欧阳宏基，葛萌，程海波. MyBatis 框架在数据持久层中的应用研究 [J]. 微型电脑应用，2023, 39 (01): 73-75。
Java Spring Boot 应用集成 Spring Security 使用 Redis 存储用户信息
C_V_Better的博客
05-19 1532
本文介绍了如何在 Spring Boot 应用中集成 Spring Security 并使用 Redis 存储用户信息，以实现高效的用户认证和授权。首先，通过添加 spring-boot-starter-security 和 spring-boot-starter-data-redis 等依赖，配置项目的基本环境。接着，在 application.properties 中设置 Redis 的连接信息。然后，通过 SecurityConfig 类配置 Spring Security，定义访问权限和登录逻辑。
基于Spring Boot + Vue的教师工作量管理系统设计与实现
爱敲码的小于
05-20 1305
本文介绍了一个基于SpringBoot+Vue的教师工作量管理系统，旨在解决高校信息化管理中教师工作量统计的难题。系统采用前后端分离架构，后端使用SpringBoot构建RESTful API，前端采用Vue框架搭配ElementUI实现交互界面，具备管理员和教师两个角色。管理员端功能包括个人中心、教师管理、分类信息管理、课程信息管理、工作量管理和系统管理；教师端功能包括个人中心、课程信息管理和工作量管理。系统支持工作量申诉与审核，界面简洁，操作流畅，具有良好的扩展性和管理能力。技术栈包括SpringBoo
Spring Boot 集成 Elasticsearch【实战】
weixin_42118323的博客
05-20 1466
总结：可以看到我们使用 ElasticsearchRepository（也就是 JPA） 进程 Elasticsearch 的数据增删改查就像使用 MySQL 一样简单，但我在尝试使用较为复杂的查询的时候，ElasticsearchRepository 相关的方法提示已经过期，下一篇我们将分享使用 ElasticsearchRestTemplate 实现复杂查询，希望本篇的分享可以帮助到有需要的朋友。查询到了我们各个新增的用户，结果符合预期，下面我们来试试更新用户信息。如有不正确的地方欢迎各位指出纠正。
Spring & Spring Boot 常用注解整理
打代码是一天，不打代码也是一天
05-13 1632
Spring 和 Spring Boot 中的注解是简化开发的重要工具，通过注解可以告诉框架如何处理类、方法或变量。核心概念是注解类似于“便利贴”，用于标记代码的特殊用途，让框架自动处理对象的创建、依赖注入等任务。在 IOC（控制反转）和 DI（依赖注入）中，常用注解包括 @Component、@Service、@Repository、@Controller 等，用于标记不同类型的组件，并由 Spring 容器管理。@Autowired 用于自动注入依赖，@Qualifier 用于指定注入的 Bean 名称
Spring Boot 拦截器：解锁5大实用场景
永远保持随时离开的技术能力！
05-15 1317
Spring Boot 拦截器：解锁5大实用场景
书生大模型L1G1000
03-08
书生大模型全链路开源体系提供了详尽的技术文档，涵盖了从基础架构搭建到具体应用场景实现的各个方面[^3]。该体系由上海人工智能实验室开发，旨在为用户提供全面的支持。 #### 主要组成部分 - **数据处理工具**：...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值