ModelScope-Agent: Building Your Customizable Agent System with Open-source Large Language Models

本文是LLM系列文章，针对《ModelScope-Agent: Building Your Customizable Agent System with Open-source Large Language Models》的翻译。

摘要

大型语言模型（LLM）最近在理解人类意图、参与推理和设计类似计划的行为方面表现出了非凡的能力。为了进一步释放LLM完成复杂任务的能力，构建代理框架的趋势越来越大，该框架为LLM（如ChatGPT）提供了与大量外部API连接的工具使用能力。
在这项工作中，我们介绍了ModelScope Agent，这是一个用于现实世界应用程序的通用且可定制的代理框架，基于作为控制器的开源LLM。它提供了一个用户友好的系统库，具有可定制的引擎设计，以支持多个开源LLM上的模型训练，同时还能够以统一的方式与模型API和通用API无缝集成。为了使LLM具备工具使用能力，已经提出了一个全面的框架，涵盖工具使用数据收集、工具检索、工具注册、记忆控制、定制模型训练和实际应用的评估。最后，我们展示了ModelScopeGPT，这是ModelScope社区基于ModelScope Agent框架的真实世界智能助手，能够将开源LLM与ModelScope中的1000多个公共人工智能模型和本地化社区知识连接起来。ModelScope代理库和在线demo现已公开。

1 引言

2 ModelScope代理

3 训练

4 评估

5 ModelScopeGPT使用案例