B站视频:https://www.bilibili.com/video/BV1Vx421X72D/
InternLM2技术报告:https://arxiv.org/pdf/2403.17297.pdf
1. Introduction
2. 开源历程以及InternLM2
2024年1月17日 InternLM2 2开源
2.1 书生浦语2.0的主要亮点
2.1.1 超长上下文
2.1.2 综合性能全面提升
2.1.3 优秀的对话和创作体验
2.1.4 工具调用能力整体升级
2.1.5 突出的数理能力和实用的数据分析功能
如下所示:
2.2 从模型到应用
2.2.1 全链条开源开放体系
2.2.2 数据方面
数据,来源OpenData,这个网站OpenDataLab:https://opendatalab.org.cn/
2.2.3 预训练
2.2.4 Finetuing
微调 框架Xtuner
2.2.5 模型评测
- CompassRank,CompassKit,OpenCompass
2.2.6 LMDeploy部署
2.2.7 Agent框架
- 智能体框架👍🏻 InternLM/lagent: A lightweight framework for building LLM-based agents (github.com)