1.书生·浦语大模型开源之路
1.1 开源时间
1.2 性能阶梯
2.书生·浦语2.5简介
2.1 核心技术思路
2.2 推理能力
2.3 上下文能力
2.4 解决复杂问题的能力
3.开源开放体系
3.1 书生·浦语大模型谱系
书生·浦语开源模型谱系:分为1.8b,7b,20b,102b等多个版本
大模型全链路开源,与社区生态无缝连接。
3.2 全链条开源开放体系
3.2.1 数据
在数据方面,体系拥有丰富多样的开放数据,数据总量达到180TB,支持研究者和开发者在人工智能领域的研究和应用开发。
3.2.2 数据处理工具箱
在工具方面,体系的开源数据处理工具箱提供一站式的开源高质量数据提取和标注工具,包括数据提取工具、数据标注工具等,性能强大。
3.2.3 预训练
在预训练方面,体系支持多种训练模式,表现优越。
3.2.4 微调
XTuner微调框架是该体系值得一提的优点,XTuner提供多种微调和偏好对齐算法,适用于各类应用场景。优化良好(尤其对于显存友好),覆盖场景全面。
3.2.5 评测
体系中的OpenCompass评测体系是中国乃至世界上领先的评测体系,获得广泛应用。