InternLM2
重要途径
大模型由专用模型和通用大模型两类应用,最早是从前者开始,一个模型针对一个问题进行解决;近两年来通用大模型(例如chatGPT等)成为追逐的热点,被认为是通往人工智能的关键途径。
开源历程
InternLM2的体系
有7B和20B两个尺寸的模型,每个规格包含三个模型版本:
InternLM2的初心
大语言的本质是做语言建模,根据给定的context预测接下来的token,需要通过高质量的语料让模型有更好的建模能力。因此采用了新一代数据清洗过滤技术,下图则证明了二代大模型有着比一代大模型更好的建模能力。
InternLM2的五大亮点
InternLM2的性能数据
实例展示
模型的工具调用及内生计算能力
鉴于有的时候大模型的计算能力不太可靠,通过代码解释器可以进一步提升其数学成绩,例如GSM8K等。
数据分析功能
以上是InternLM2的功能以及相较于初代的提升,接下来将如何从模型过渡到应用:
模型到应用
典型流程
全链条工具体系(方便使用)
数据
预训练
微调
评测
CompassRank(中立全面的性能榜单)
CompassKit(大模型评测全栈工具链)
CompassHub(高质量评测基准社区)
OpenCompass综合性客观评测
认为模型答对所有轮换后才说明这道题是对的
OpenCompass主观评测胜率
部署
模型部署是模型上线应用的最后一环,如何让模型在GPU上更快的跑起来需要用到部署环节。
智能体框架
多模态智能体工具箱AgentLego
当想要将语言模型拓展到一个多模态智能体时,可以借助这个工具集,更加集中在智能体本身的开发上。