用Function Calling 连接大模型和业务，用自然语言连接系统的认知

程序员辣条

于 2024-08-22 20:29:17 发布

阅读量1.2k

点赞数 12

文章标签：人工智能 AI大模型大模型大模型学习大模型教程大模型入门

本文链接：https://blog.csdn.net/m0_65555479/article/details/141437349

版权

前言

本篇文章，我们重点介绍Function Calling的机制和应用，在其原理上，也讲解了为什么会有plugin、GPTs出现等等。

1.大模型应用的一切，是自然语言连接系统的认知

2.在Function Calling的应用中，是如何把大模型和业务连接起来的

3.OpenAI用GPTs连接外部世界

我们本文和后续文章，在实际的应用，都会以ChatGPT来讲，无他，公认的，ChatGPT的能力毋庸置疑。

自然语言连接一切（Natural Language Interface），接口的进化

我们以前的接口，经历了多个版本的进化：

在这个过程中，媒介发生很多变化，但是都离不开一个共同点，那就是要有约定，要有规划，要有程序员的对接实现。

而在面对ChatGPT为例的一系列大模型，我们在面对的就是自然语言的接口，在这个强大的能力加持下，我们在面对计算机等智能设备时，我们可以用自然语言对它发出指令，实现我们的意图。

这里重新强调了这一点，是因为我们要清楚，面对AIGC的重大革新，不管是我们在日常生活中使用LLM，还是我们要基于LLM做应用开发，我们思维上首先要转变的就是要把计算机当成一个人，有了这个认识，接下来我们才能更好的使用它。

为什么要让大模型连接外部世界

有的伙伴可能会说，大模型既然能力已经很强了，为什么还要连接外部世界呢。之前我们也讲过，大模型有它自己的能力缺陷，或者说不擅长的：

并非知晓一切
1. 训练数据不可能什么都有。垂直、非公开数据必有欠缺
2. 不知道最新信息。大模型的训练周期很长，且更新一次耗资巨大，还有越训越傻的风险。所以 ta 不可能实时训练。GPT-3.5 的知识截至 2021 年 9 月，GPT-4 是 2023 年 12 月。
没有「真逻辑」。它表现出的逻辑、推理，是训练文本的统计规律，而不是真正的逻辑，所以有幻觉。

为了解决这个问题，就是我们所说的要连接外部世界：大模型需要连接真实世界，并对接真逻辑系统。

Function Calling 的机制

我们说，Function Calling 技术可以把大模型和业务系统连接，实现更丰富的功能。我们先看下它的由来和定义，以及用途，就能理解这一点了。

Function Calling的定义

函数调用（Function Calling） 是 OpenAI 在 6 月 13 日发布的新能力。根据官方博客描述，函数调用能力可以让模型输出一个请求调用函数的消息，其中包含所需调用的函数信息、以及调用函数时所携带的参数信息。这是一种将 GPT 能力与外部工具 / API 连接起来的新方式。

支持函数调用的新模型，可以根据用户的输入自行判断何时需要调用哪些函数，并且可以根据目标函数的描述生成符合要求的请求参数。

Function Calling 的机制

它的使用逻辑是这样的，我们用张图来解释;

Function Calling 完整的官方接口文档：platform.openai.com/docs/guides…

我们可以看到，对于人来讲，我们还是一段自然语言的prompt输入，得到一个自然语言的回答，但是因为有了Function Calling，可以通过开发各种各样的函数，来丰富和增强大模型的能力。

Function Calling 的示例、体验

我们来看一个 Function Calling的简单使用实例：

需求：定义一个函数，可以让chatgpt进行精确的数学计算，并返回精确结果。

实现：

输出结果：

{
    "content": null,
    "role": "assistant",
    "function_call": null,
    "tool_calls": [
        {
            "id": "call_EoBm8iVtl000rAZSyWe9qlk8",
            "function": {
                "arguments": "{"numbers":[1,2,3,4,5,6,7,8,9,10]}",
                "name": "sum"
            },
            "type": "function"
        }
    ]
}
=====GPT回复=====
{
    "content": null,
    "role": "assistant",
    "function_call": null,
    "tool_calls": [
        {
            "id": "call_EoBm8iVtl000rAZSyWe9qlk8",
            "function": {
                "arguments": "{"numbers":[1,2,3,4,5,6,7,8,9,10]}",
                "name": "sum"
            },
            "type": "function"
        }
    ]
}
=====函数返回=====
55
=====最终回复=====
The sum of 1, 2, 3, 4, 5, 6, 7, 8, 9, 10 is 55.

支持 Function Calling 的国产大模型

Function Calling 会成为所有大模型的标配，支持它的越来越多
不支持的大模型，某种程度上是不大可用的

百度文心大模型

官方文档：cloud.baidu.com/doc/WENXINW…

百度文心系列大模型有四个。按发布时间从早到晚是：

ERNIE-Bot - 支持 Function Calling
ERNIE-Bot-turbo
ERNIE-Bot 4.0
ERNIE-Bot 3.5 - 支持 Function Calling

参数大体和 OpenAI 一致。

MiniMax

官方文档：api.minimax.chat/document/gu…

这是个公众不大知道，但其实挺强的大模型，尤其角色扮演能力
如果你曾经在一个叫 Glow 的 app 流连忘返，那么你已经用过它了
应该是最早支持 Function Calling 的国产大模型
Function Calling 的 API 和 OpenAI 1106 版之前完全一样，但其它 API 有很大的特色

ChatGLM3-6B

官方文档：github.com/THUDM/ChatG…

最著名的国产开源大模型，生态最好
早就使用 tools 而不是 function 来做参数，其它和 OpenAI 1106 版之前完全一样

讯飞星火 3.0

官方文档：www.xfyun.cn/doc/spark/W…

和 OpenAI 1106 版之前完全一样。

OpenAI 用 Actions 连接外部世界

第一次尝试用 Plugins 连接真实世界，但产品很不成功，原因：

不在「场景」中，不能提供端到端一揽子服务
缺少「强 Agent」调度，只能手工选三个 plugin，使用成本太高

第二次尝试，升级为 Actions，内置到 GPTs 中，解决了落地场景问题。

小瓜 GPT 已经接入了高德地图 actions，可以试试问位置相关的问题：chat.openai.com/g/g-DxRsTzz…

工作流程：

和Funtion Calling有点不一样，但是基本原理都是一样的

Actions对接示例

把 API 对接到 GPTs 里，只需要配置一段 API 描述信息：

openapi: 3.1.0
info:
  title: 高德地图
  description: 获取 POI 的相关信息
  version: v1.0.0
servers:
  - url: https://restapi.amap.com/v5/place
paths:
  /text:
    get:
      description: 根据POI名称，获得POI的经纬度坐标
      operationId: get_location_coordinate
      parameters:
        - name: keywords
          in: query
          description: POI名称，必须是中文
          required: true
          schema:
            type: string
        - name: region
          in: query
          description: POI所在的区域名，必须是中文
          required: false
          schema:
            type: string
      deprecated: false
  /around:
    get:
      description: 搜索给定坐标附近的POI
      operationId: search_nearby_pois
      parameters:
        - name: keywords
          in: query
          description: 目标POI的关键字
          required: true
          schema:
            type: string
        - name: location
          in: query
          description: 中心点的经度和纬度，用逗号分隔
          required: false
          schema:
            type: string
      deprecated: false
components:
  schemas: {}

还需要配置 API key 来满足权限要求。