AI大模型学习白话笔记（五）-- Function Calling-CSDN博客

本文链接：https://blog.csdn.net/Langchain/article/details/139143156

前面的文章已经多次提到Function Calling，可见Function Calling在AI大模型搭建的重要性。

我们已经知道通过Function calling可以让用户能够高效的使用外部工具、外部API进行交互，来实现一些基础大模型无法完成的推理。

那么，今天我们一起来学习Function Calling的概念，以及在构建私有专属大模型中的应用。

什么是Function Calling

Function Calling是OpenAI在2023年6月13日发布在Chat Completions API中添加的新能力，帮助开发者通过API方式实现类似于ChatGPT插件的数据交互能力。

Chat Completion模型是一种基于人工智能的自然语言处理技术，可以根据用户的输入生成相应的回答。

而Function Calling允许用户在使用模型处理特定问题时，定制并调用专有的函数，这些函数可以是专门为处理特定任务（如数据分析、图像处理等）而设计的代码块，从而让Chat Completion模型可以调用外部函数获取信息再针对输出进行格式化。

这个描述可能有点难以理解，简单来说，就是OpenAI允许我们通过调用外部数据的方式来增强大模型，那么调用外部数据的方式就是这个Function Calling，翻译过来叫函数调用。

附上Function Calling官方文档地址：platform.openai.com/docs/guides…

Function Calling有什么用

通过使用函数调用能力，可以满足当前大模型无法解决的部分问题，包括：

在进行自然语言交互时，可以通过调用外部工具回答问题（类似于 ChatGPT 插件）。
将自然语言转换为调用API时使用的参数，或者查询数据库时使用的条件。
从文本中提取结构化数据。

如何使用Function Calling

为了实现Function Calling能力，OpenAI对Chat Completion进行了修改，增加了新的请求参数、响应类型以及消息角色，应用开发者需要：

在请求参数中向Chat Completion传递信息，描述应用所提供的可调用函数的信息。
解析Chat Completion响应的消息类型，若模型决定需要调用函数，则根据模型返回的函数信息和函数传参调用函数，并获得返回结果。
将函数返回的结果添加到消息列表中，并再次调用Chat Completion。

定义外部调用的函数

大模型具有执行多个函数的能力，并且允许并行执行和解释函数调用返回的结果，因此我们需要先定义好一个或多个函数。

定义tools

请求参数tools为当前应用可调用的函数的列表（以前的命名为functions）。函数信息中包含了函数的名称、自然语言描述、以及函数所支持传入的参数信息。

tools参数的格式如下：

go
复制代码
tools = [
    {
      name: '函数名',
      description: '该函数所具备能力的自然语言描述',
      parameters: {
        type: 'object',
        properties: {
          argument_name: {
            type: 'string',
            description: '该参数的自然语言描述'
          },
          // ...
        },
        required: ['argument_name']
      }
    },
    // ...
]

tools参数支持以数组形式录入多组函数信息，我们可以定义一个或多个tools，由大模型决定调用谁，其中：

name：函数名称。后续模型会在需要调用函数时返回此名称。
description：函数功能描述。模型通过该描述理解函数能力，并判断是否需要调用该函数。
parameters.properties：函数所需的参数。以对象的形式描述函数所需的参数，其中对象的 key 即为参数名。
type：参数类型。支持 JSON Schema 协议。
description：参数描述。
required：必填参数的参数名列表。

在环境中注册函数

我们需要在环境中注册这些函数，才能让大模型知道并能在需要的时候调用。

ini
复制代码
response = client.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=messages,
    tools=tools,
    tool_choice="auto",  # auto is default, but we'll be explicit
)

tool_choice: "auto"是默认的，由模型自行决定是否调用函数，也可以设置tool_choice: "none"来强制模型生成面向用户的消息。

tool_calls

ini
复制代码
response_message = response.choices[0].message
tool_calls = response_message.tool_calls

如果使用函数，则输出将在响应中包含 “finish_reason”: “tool_calls” ，以及具有tool_calls函数名称和生成的函数参数的对象。

function_to_call

前面的文章我们说过，大模型不会直接执行函数，也并不是大模型让我们干什么我们就得干什么，另外也需要规避无限调用的可能，我们可以把大模型返回的tool_calls当作一个建议，需要进行判断，再决定是否调用。

ini
复制代码
if (tool_calls is not None):
    for tool_call in tool_calls:
        if (逻辑判断):
            function_name = tool_call.function.name
            function_to_call = available_functions[function_name]
            function_args = json.loads(tool_call.function.arguments)
            function_response = function_to_call(
                ...
            )
            # 把函数调用结果加入到对话历史中
            messages.append(
                {
                    "tool_call_id": tool_call.id,
                    "role": "tool",
                    "name": function_name,
                    "content": function_response,
                }
            )
            # 再次请求大模型
            second_response = client.chat.completions.create(
                model="gpt-3.5-turbo",
                messages=messages,
            )

需要注意的地方

在函数执行完成后，可以将函数的返回内容追加到消息列表中，并携带完整的消息列表再次请求Chat Completion API，以获得GPT的后续响应。

在消息列表中，角色的可选值除了原有的系统（system）、用户（user）、助理（assistant）外，新增了函数（function）类型，用来标识该消息时函数调用的返回内容。

向消息列表中追加函数调用响应消息前，还需要首先将上一步模型返回的消息追加到消息列表中，以保证消息列表中的上下文完整。

如何系统的去学习大模型LLM ？

作为一名热心肠的互联网老兵，我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。

但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的 AI大模型资料 包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以V扫描下方二维码免费领取🆓

在这里插入图片描述

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。那以下这些PDF籍就是非常不错的学习资源。

在这里插入图片描述

四、AI大模型商业化落地方案

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
  - L1.4.1 知识大模型
  - L1.4.2 生产大模型
  - L1.4.3 模型工程方法论
  - L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
  - L2.1.1 OpenAI API接口
  - L2.1.2 Python接口接入
  - L2.1.3 BOT工具类框架
  - L2.1.4 代码示例
- L2.2 Prompt框架
  - L2.2.1 什么是Prompt
  - L2.2.2 Prompt框架应用现状
  - L2.2.3 基于GPTAS的Prompt框架
  - L2.2.4 Prompt框架与Thought
  - L2.2.5 Prompt框架与提示词
- L2.3 流水线工程
  - L2.3.1 流水线工程的概念
  - L2.3.2 流水线工程的优点
  - L2.3.3 流水线工程的应用
- L2.4 总结与展望

阶段3：AI大模型应用架构实践

目标：深入理解AI大模型的应用架构，并能够进行私有化部署。
内容：
- L3.1 Agent模型框架
  - L3.1.1 Agent模型框架的设计理念
  - L3.1.2 Agent模型框架的核心组件
  - L3.1.3 Agent模型框架的实现细节
- L3.2 MetaGPT
  - L3.2.1 MetaGPT的基本概念
  - L3.2.2 MetaGPT的工作原理
  - L3.2.3 MetaGPT的应用场景
- L3.3 ChatGLM
  - L3.3.1 ChatGLM的特点
  - L3.3.2 ChatGLM的开发环境
  - L3.3.3 ChatGLM的使用示例
- L3.4 LLAMA
  - L3.4.1 LLAMA的特点
  - L3.4.2 LLAMA的开发环境
  - L3.4.3 LLAMA的使用示例
- L3.5 其他大模型介绍