书生浦语Day1

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮

—书生浦语Day1
——大模型全链路开源体系

前言

Highlight：Xtuner框架，Opencompass评测榜单， Lagent轻量级智能体和AgentLego工具箱

一、从模型到应用

1.业务场景简单，如通用对话，直接将模型拿过来，运用prompt engineering接入业务场景
2.部分微调，如LoRA
3. 需要交互：调用外部API，或与数据库交互 → 需要智能体
4.模型评测通过则上线，评测不通过需要在之前的微调中做迭代
5.模型部署问题：最少的资源来增加吞吐量

二、基于Xtuner框架进行微调

1.支持消费级显卡
2.支持多种主流数据集格式
3.支持多种微调算法

---

三.全球领先的开源大模型评测体系及轻量级智能体、工具箱。

1.其中包含6个唯独，80多种评测集

2.Lagent轻量级智能体搭建，AgentLego提供了大模型调用的工具箱和工具接口，包括视觉和多模态模型，方便调用
3.支持多种类型的智能体能力，有不同的智能体调用流程、灵活支持多种大语言模型、如：代码解数学题；零样本泛化：多模态AI工具使用