书生·浦语大模型全链路开源体系模型学习
InternLM2:
目前InternLM2根据不同的需求,有InternLM2-7B和InternLM2-20B规格,每个规格包含三个模型版本,InternLM2-Base、InternLM2、InternLM2-Chat,都在社区内已经开源。
InternLM2-Base: 高质量、强可塑性的模型基座,是模型进行深度领域适配研究的起点。
InternLM2:在Base基础上,在多个能力进行了强化,评测过程中表现优异,保持了很好的通用语言能力,官方推荐在大部分应用中考虑选用的优秀基座。
InternLM2-Chat:经过了SFT和RLHF,面向对话交互进行看优化,具有很好的指令遵循、共情聊天和调用工具的能力。
InternLM2 模型具备以下的技术特点: 有效支持20万字超长上下文:模型在20万字长输入中几乎完美地实现长文“大海捞针”,而且在 LongBench 和 L-Eval 等长文任务中的表现也达到开源模型中的领先水平。 综合性能全面提升:各能力维度相比上一代模型全面进步,在推理、数学、代码等方面的能力提升显著。