书生·浦语大模型实战营第二期 第1节笔记

1 大模型的发展 

针对单一任务 -> 通用大模型，一个模型完成多个任务、多模态

2 书生·浦语大模型开源

InternLM 千亿参数-> 支持8k语境、多语言、开源、免费商用InternLM-7B -> 语料库开源 -> 对话模型 -> 参数升级123B -> InternLM-20B -> InternLM2

3 语言建模

数据清洗过滤技术

4 InternLM2

200k上下文  逻辑问题相关能力   精准指令和丰富的结构化创作  支持工具多轮调用  内生计算能力

5 应用

6 全链路开源开放

数据 预训练 微调 部署 测评 应用

截图来自：书生·浦语大模型全链路开源体系_哔哩哔哩_bilibili