第一节课——书生·浦语大模型全链路开源开放体系（笔记）

InternLM2

重要途径

大模型由专用模型和通用大模型两类应用，最早是从前者开始，一个模型针对一个问题进行解决；近两年来通用大模型（例如chatGPT等）成为追逐的热点，被认为是通往人工智能的关键途径。

开源历程

InternLM2的体系

有7B和20B两个尺寸的模型，每个规格包含三个模型版本：

InternLM2的初心

大语言的本质是做语言建模，根据给定的context预测接下来的token,需要通过高质量的语料让模型有更好的建模能力。因此采用了新一代数据清洗过滤技术，下图则证明了二代大模型有着比一代大模型更好的建模能力。

InternLM2的五大亮点

InternLM2的性能数据

实例展示

模型的工具调用及内生计算能力

鉴于有的时候大模型的计算能力不太可靠，通过代码解释器可以进一步提升其数学成绩，例如GSM8K等。

数据分析功能

以上是InternLM2的功能以及相较于初代的提升，接下来将如何从模型过渡到应用：

模型到应用

典型流程

全链条工具体系（方便使用）

数据

预训练

微调

评测

CompassRank（中立全面的性能榜单）

CompassKit（大模型评测全栈工具链）

CompassHub（高质量评测基准社区）

OpenCompass综合性客观评测

认为模型答对所有轮换后才说明这道题是对的

OpenCompass主观评测胜率

部署

模型部署是模型上线应用的最后一环，如何让模型在GPU上更快的跑起来需要用到部署环节。

智能体框架

多模态智能体工具箱AgentLego

当想要将语言模型拓展到一个多模态智能体时，可以借助这个工具集，更加集中在智能体本身的开发上。