课程资料:
课程视频:
书生·浦语大模型全链路开源开放体系
书生大模型全链路开源体系简介:
由上海Ailab精心打造的"书生"大模型全链路开源体系,是一个全面、开放的AI研发平台。它集成了从数据预处理、模型训练、评估优化到最终部署的全流程工具链,为开发者提供了一站式的解决方案。从2023.7.6InterLM7B到2024.7.4开源的InterLM2.5,性能提升很大,对比同期其他厂商的大模型,性能也有不俗表现。
相对于之前推理能力有较大提升
即使不通过reg,也可以将问题回答得不错,展示了一个demo,给模型一个表格,模型可以直接将其中的一些列归类:
回答结果如下;
特点包括:
模块化设计:各个组件可以独立使用,也可以与其他工具无缝集成。
高性能:优化的算法和高效的计算框架,确保模型训练和推理的快速性。
易用性:简洁的API和丰富的文档,降低学习曲线,加速开发过程。
社区支持:活跃的开发者社区,提供持续的技术支持和更新。
"书生"大模型全链路开源体系不仅推动了人工智能技术的共享与创新,也为全球的AI研究者和开发者提供了一个强大的协作平台。
技术核心思路:
高质量合成数据
三种数据合成的方法,包括基于规则的数据构造、基于模型的数据扩充和基于反馈的数据生成。这些技术可以用于创建更加丰富和多样化的数据集,以支持机器学习和其他数据分析任务。
- 公式、函数:例如数学问题求解,例如使用和角公式来计算正弦值,例如:
sin(A)=sin(α)cos(β)+cos(α)sin(β) - 编程代码:例如Python编程代码,如nap(int,input().split)和cd(se(RO)),函数调用,命令行操作等。
- 诗歌创作:包含了两首五言绝句,一首是李白的《静夜思》,表达思乡之情的原创诗歌。这些诗歌展示了文学创作与技术内容的结合。
开源社区:
全链条开源,与社区生态无缝衔接,从数据,到预训练,到微调,到部署全部开源(小编感慨,太厉害了):
开源数据处理(小编这里给Miner U打call,顺便催一下什么时候把表格识别功能也更了):
低成本训练:
微调框架XTuner:
LMDeploy部署也是很方便的:
一步步看到书生·浦语大模型开源生态越来越完善,效果越来越好,Ailab加油。