书生·浦语大模型全链路开源开放体系

书生大模型是国内领先的大规模预训练模型，涵盖从模型训练到推理、部署的一整套解决方案，旨在推动人工智能领域的开源和开放生态。其全链路开源开放体系涵盖了模型开发的各个阶段，从数据收集与处理、模型构建、训练、推理到部署，为研究者和开发者提供了从零到一构建大模型的完整技术栈。

一、书生InternLM 2发展历程

书生·浦语大模型全链路开源开放体系旨在构建一个包括数据收集、模型训练、微调、评测以及AI应用部署的完整生态。通过开源代码和项目，推动了人工智能的普及与实际应用，使得研究者和开发者能更高效地利用和开发基于大模型的应用。

• 通用人工智能的发展方向：从单一任务模型转向通用大模型，解决多种任务和模态。
• 书生·浦语模型升级：7月升级支持8K语境和工具体系，8月发布对话模型和智能体框架，9月发布中等尺寸模型与优化工具链。
• 开源开放体系的建立：书生·浦语大模型自始便重视开源，通过发布开源项目吸引了众多开发者和研究者的参与。这种开放的形式加快了模型的迭代与优化。
• 数据收集与整理：该模型在数据驱动的过程中，采用多种数据生成方式，包括基于规则、模型以及反馈的数据生成。这提高了数据的多样性，增强了模型的推理能力及短期记忆。
• 反馈机制的引入：引入相似度对齐与基于反馈的强化训练后，模型在理解用户需求方面的表现有所提升，进而提高了准确性和用户满意度。
• 2023年6月7日：发布了浦语系列首个千亿参数模型。
• 2023年7月6日：InternLM-7B 开源并免费商用，同时发布了全链条开源工具体系。
• 2023年9月20日：InternLM-20B 开源，开源工具链全线升级。
• 2023年9月27日：开源了书生·浦语灵笔（InternLM-XComposer），这是首个图文混合创作大模型。
• 2024年1月17日：开源了 InternLM2，其性能超越了最新同量级的开源模型。
• 2024年1月23日：发布了 InternLM2-Math，这是首个同时支持形式化数学语言及解题过程评价的开源模型。
• 2024年1月29日：发布了书生·浦语灵笔2（InternLM-XComposer2），支持个性化高质量图文创作和对话。
• 2024年5月24日：开源了 InternLM2-Math-Plus，刷新了开源数学模型的性能上限。
• 2024年6月4日：开源了 InternLM2-WQX，以200亿参数量在2024年高考中取得了接近GPT-4o的成绩

二、全链条

• 开源工具体系：覆盖数据到预训练、微调、部署和评测等全流程，如InternLM-Train、XTuner、LMDeploy等。
• 数据集：提供丰富多样的数据，支持数据清洗、安全处理和公开使用。
• 性能评测与差距：大模型整体能力仍有提升空间，尤其在理科能力上，中文场景下国内模型表现出色。
• 部署解决方案：LMDeploy支持模型轻量化、量化和推理服务，与评测工具无缝对接。

三、接口调用

书生·浦语 (intern-ai.org.cn)

1. API 流控限制：默认每用户每分钟限制10次调用。有更高需求的同学，可在限流策略申请更高的流控配置。

2. 请求示例：提供了使用原生 Python、openai Python SDK、CLI 和 curl 进行非流式和流式调用的示例。

3. 参数说明：支持的参数包括 model, messages, n, temperature, top_p, stream, max_tokens, tools 等。

4. 流式请求：提供了流式请求的示例和说明，允许逐步接收生成的响应。

5. Tool Call 请求：展示了如何使用 Tool Call 功能，允许模型调用特定的函数。

6. 请求和返回参数说明：详细说明了请求和返回参数的结构和意义。

7. 常见错误：列出了一些常见的错误码及其说明和解决建议。

8. 接口调用：提供了接口调用的请求示例，包括非流式和流式请求。

9. 返回参数说明：解释了返回参数的含义，如 id, model, created, choices, moderation 等。

10. 相关结构体说明：详细描述了 choice, message, tool_calls, moderation 等结构体的参数和意义。