提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮
—书生浦语Day1
——大模型全链路开源体系
前言
Highlight:Xtuner框架,Opencompass评测榜单, Lagent轻量级智能体和AgentLego工具箱
一、从模型到应用
1.业务场景简单,如通用对话,直接将模型拿过来,运用prompt engineering接入业务场景
2.部分微调,如LoRA
3. 需要交互:调用外部API,或与数据库交互 → 需要智能体
4.模型评测通过则上线,评测不通过需要在之前的微调中做迭代
5.模型部署问题:最少的资源来增加吞吐量
二、基于Xtuner框架进行微调
1.支持消费级显卡
2.支持多种主流数据集格式
3.支持多种微调算法
三.全球领先的开源大模型评测体系及轻量级智能体、工具箱。
1.其中包含6个唯独,80多种评测集
2.Lagent轻量级智能体搭建,AgentLego提供了大模型调用的工具箱和工具接口,包括视觉和多模态模型,方便调用
3.支持多种类型的智能体能力,有不同的智能体调用流程、灵活支持多种大语言模型、如:代码解数学题;零样本泛化:多模态AI工具使用