Modelscope Agent 框架体验

LLM 存在痛点

由于训练成本很高，往往需要很大规模的算力去做，而就算是finetune也是需要很大的算力。
但开源发布的Agent具有一定的时间局限性：训练数据最新也是几个月之前的，对于一些垂直领域无法做到更好的应用。
我们就可以使用现成的LLM去制作一个Agent。

Agent 能做什么

如图所示，在开发Agent的过程中，我们可以自己开发Tools，这使得可以使用LLM + Agent实现更丰富的功能：不仅仅是单纯的访问或API调用等，还可以实现比如网页特定内容的获取和处理（比如b站评论等，不能通过openapi来实现，但可以通过自定义的Tools来实现）。对于多模态的数据（如用户偏好、时空轨迹、一些景区图片等），在分类整理入库后，可以实现实时更新的效果。在Agent调用时，可通过Tools的description来选择是否调用数据库以及调用哪些数据库并生成相应的sql。