书生·浦语大模型实战营笔记

书生·浦语大模型实战营笔记系列

---

1）书生·浦语大模型全链路开源体系

---

前言

大模型成为发展通用人工智能的重要途径

从专用模型到通用模型

专用模型：

针对特定任务，一个模型解决一个问题

通用模型：

一个模型应对多种任务、多种模态

书生·浦语大模型系列

1. 轻量级：InternLM-7B（社区低成本）
2. 中量级：InternLM-20B（商业场景）
3. 重量级：InternLM-123B（通用大语言模型）
   

---

一、从模型到应用

模型到应用流程图

具体可分为

数据、预训练、微调、部署、评测、应用

1.数据

书生·万卷

OpenDataLab

2.预训练

3.微调

方式

1. 增量续训（垂类领域知识）
2. 有监督微调（数据量通常相比于预训练和增量续训都要小）

方法

1. 全量参数微调
2. 部分参数微调
   

高效微调框架XTuner

极致的显存优化：消费级显卡（8GB）玩转微调

4.评测

国内外评测体系的整体态势

OpenCompass

评测维度

OpenCompass 开源评测平台架构

OpenCompass 的优点

OpenCompass 的支持模型

5.部署

部署存在的问题以及解决方案

LMDeploy

介绍

领先的推理性能

6.智能体

局限性

Lagent是去搭建智能体的整个框架
AgentLego是可调用工具的collection

轻量级智能体框架Lagent

多模型智能体工具箱AgentLego

总结

介绍了一下书生·浦语大模型的全链路的整体框架