轻松玩转书生·浦语大模型趣味 Demo
本节课老师一共讲了 4 个实操,主要内容是:
- 部署
InternLM2-Chat-1.8B
模型进行智能对话 - 部署实战营优秀作品
八戒-Chat-1.8B
模型 - 通过
InternLM2-Chat-7B
运行Lagent
智能体Demo
- 实践部署
浦语·灵笔2
模型
从配置的基础环境,到如何操作,都做了详细的介绍
Lagent 的特性总结如下:
- 流式输出:提供 stream_chat 接口作流式输出,本地就能演示酷炫的流式 Demo。
- 接口统一,设计全面升级,提升拓展性,包括:
- Model : 不论是 OpenAI API, Transformers 还是推理加速框架 LMDeploy 一网打尽,模型切换可以游刃有余;
- Action: 简单的继承和装饰,即可打造自己个人的工具集,不论 InternLM 还是 GPT 均可适配;
- Agent:与 Model 的输入接口保持一致,模型到智能体的蜕变只需一步,便捷各种 agent 的探索实现;
- 文档全面升级,API 文档全覆盖。