大模型: Function calling的作用

一、介绍

大模型中的Function Calling是一个关键功能，它允许语言模型在生成文本的过程中调用外部函数或服务，以获取额外的数据或执行特定的任务。这种能力扩展了大模型的实用性，使其能够更好地适应复杂的应用场景。从而也使得大模型不再是文本/代码创建工具，而是作为一款应用的“智能中枢”，这也是构建Agent的基础。

二、Function Calling的作用

• 增强模型功能：通过集成外部功能或API的调用能力，大模型可以执行更广泛的任务。例如，模型可以调用天气API来回答关于当前天气的问题，或者调用翻译服务来提供翻译。这种功能的增强使得大模型在问答系统、智能助手、自然语言理解等领域有更广泛的应用。
• 提高数据准确性：在某些场景下，大模型需要外部信息来提供准确的回答。通过Function Calling，模型可以实时获取外部数据，并将其整合到生成的文本中。这有助于提高回答的质量和准确性，特别是在涉及实时数据或特定领域知识的场景下。
• 提升用户体验：Function Calling使得大模型能够更直接地满足用户的需求。用户可以通过简单的自然语言指令，让模型执行复杂的任务，如查询信息、预订服务、执行操作等。这种交互方式使得用户与模型的交互更加自然和高效，提升了用户体验。

总之，大模型中的Function Calling是一种强大的功能，它能够增强模型的功能、提高数据的准确性并提升用户体验。随着技术的不断发展，Function Calling的应用场景将会越来越广泛，为人工智能领域的发展带来更多的可能性。

三、什么是AI Agent

1、背景

尽管大语言模型具有巨大的知识储备，但是大模型也具有自身的局限性，比如大模型无法获取最新的消息、模型只能给出一些文字供我们阅读但是无法帮助我们解决某些问题（自动回复邮件、自动查询订阅高铁票等）

2、AI Agent介绍

AI Agent是大模型的上层应用，使得大模型不仅仅可以进行问答，还可以通过接入外部工具来完成一些事情。例如：

• 回复邮件。
• 编写SQL

四、Function calling First response流程

五、Function calling外部函数本地运行流程

六、Function calling Second response流程