本笔记是通过对上海人工智能实验室OpenMMLab开发的书生·浦语大模型全链路开源体系的公开视频课程学习,主要针对大模型整体的发展历史、应用领域、开源历程以及系列、数据性能、模型到应用的流程等整个大模型全链路初步建立一个整体的大模型学习体系,为后续持续深入学习大模型打下基础,在此特别感谢OpenMMLab给广大想了解学习大模型技术领取的我们提供这次免费公开课程和整套全链路开源大模型体系框架的教学和指导。
一、大模型的发展历史和应用模型和领域
二、书生-浦语大模型开源历程
三、大模型系列:轻量级、中量级、重量级
四、20B开源大模型性能
五、模型到应用的流程
六、浦语全链路开源开放体系介绍
6.1 数据:文本数据、图像-文本数据集、视频数据
6.2 预训练
6.3 微调 :增量续训、有监督微调
6.4 评测: openCompass
6.5 openCompass 平台架构
6.6 部署:LMDeploy
6.7 应用:智能体:LLM 轻量级智能体框架Lagent 多模态智能体工具箱AgentLego