一、概要介绍
1.OpenAI技术路线
人工智能:专用模型向通用模型发展
2.书生·浦语大模型开源历程
3.书生·浦语大模型系列
轻量级:InternLM-7B/中量级:InternLM-7B/重量级:InternLM-7B
4.从模型到应用
二、书生·浦语全链条开源开放体系
(一)数据
1.书生·万卷1.0
2.OpenDataLab
(二)预训练
(三)微调
大语言模型的下游应用中,增量续训和有监督微调是经常会用到两种方式。
-
增量续训 使用场景:让基座模型学习到一些新知识,如某个垂类领域知识 训练数据:文章、书籍、代码等
-
有监督微调 使用场景:让模型学会理解和遵循各种指令,或者注入少量领域知识 训练数据:高质量的对话、问答数据
XTuner
(四)评测
OpenCompass 评测体系
OpenCompass 评测平台架构
(五)部署
LMDeploy全流程部署解决方案
(六)智能体
Lagent轻量级智能体框架
AgentLego多模态智能体工具箱