大模型为什么能把业务系统拉通?Function Calling全面解析

随着人工智能技术的快速发展,ChatGPT 不再仅仅是一个回答问题的机器人,它已经进化为可以执行复杂任务的强大工具。这一切的背后,离不开它的 Function Calling(函数调用)机制。本文将为你详细解析这一扩展功能,揭示 ChatGPT 如何在对话过程中调用预定义函数,完成特定任务,提供实时、个性化的服务。

一、 背景与概念

ChatGPT 的 Function Calling 机制允许模型调用外部函数获取信息或执行操作。这种机制不仅增强了模型的功能,使其能够处理更复杂的任务,还大大扩展了 AI 在实际应用中的能力范围。不再局限于静态知识库的回答,ChatGPT 通过 Function Calling 可以动态获取最新信息,执行特定操作,极大提高了实用性和灵活性。

二、主要组件

Function Calling 机制主要由以下几个关键组件构成:

  • 函数定义:预先定义可调用的函数,包括名称、参数类型和返回值类型等。

  • 函数调用请求:用户或系统发出的调用请求,包含函数名称及所需参数。

  • 函数执行器:实际执行函数的组件,可能是外部的 API 或本地逻辑处理器。

  • 结果返回:函数执行完毕后,返回结果给 ChatGPT,继续对话。

三、 Function Calling 机制详细解析

一个应用如何与OpenAI的API进行交互,通过发送函数定义,接收参数,调用函数,再将结果与其他信息结合生成最终的回答,并返回给用户。下面是每一步的详细说明:

一个应用如何与 OpenAI 的 API 进行交互?以下是详细的步骤说明:

  1. 传入函数定义:
  • 应用服务将函数定义传递给 OpenAI。
  1. 返回调用参数:
  • OpenAI 返回调用函数所需的参数。
  1. 调用函数:
  • 应用服务使用这些参数调用相应的函数。
  1. 传入结果:
  • 函数调用结果被传递回 OpenAI。
  1. 组合回答:
  • OpenAI 将函数结果与其他相关信息结合,生成完整的回答。
  1. 返回答案:

最终回答通过应用服务返回给用户。

四. 安全与控制

为了确保安全性和控制,函数调用机制通常包括以下措施:

  • 权限控制:仅允许调用经过安全审查的函数。

  • 输入验证:验证输入参数的合法性,防止恶意输入。

  • 错误处理:处理函数调用过程中可能出现的错误,如网络错误、参数错误等。

五. 示例应用

这种机制在许多应用场景中非常有用,例如:

  • 信息查询:调用外部 API 获取天气、新闻、股票价格等实时信息。

  • 操作执行:调用函数执行系统操作,如发送邮件、创建日历事件等。

  • 数据处理:调用数据处理函数,如数据分析、图表生成等。

六、案例实现

1、调用本地函数计算一个数学表达式的值

`import openai``import os``from math import *``from icecream import ic``import json``   ``# 加载 .env 文件``from dotenv import load_dotenv, find_dotenv``_ = load_dotenv(find_dotenv())``   ``# 从环境变量中获得你的 OpenAI Key``openai.api_key = os.getenv('OPENAI_API_KEY')``openai.api_base = os.getenv('OPENAI_API_URL')``model = os.getenv('MODEL')``   ``# 基于 prompt 生成文本``def get_completion3(messages, model=model):`    `response = openai.ChatCompletion.create(`     `# 注意,以前的 openai.ChatCompletion 要换成 openai.chat.completions`        `model=model,`        `messages=messages,`        `temperature=0,  # 模型输出的随机性,0 表示随机性最小`        `tools=[{  # 用 JSON 描述函数。可以定义多个。由大模型决定调用谁`            `"type": "function",`            `"function": {`                `"name": "sum",`                `"description": "计算一组数的加和",`                `"parameters": {`                    `"type": "object",`                    `"properties": {`                        `"numbers": {`                            `"type": "array",`                            `"items": {`                                `"type": "number"`                            `}`                        `}`                    `}`                `}`            `}`        `}],`    `)`    `return response.choices[0].message``   ``def test_promopt():`    `prompt = "Tell me the sum of 1, 2, 3, 4, 5, 6, 7, 8, 9, 10."`    `#prompt = "桌上有 2 个苹果,四个桃子和 3 本书,一共有几个水果?"`    `#prompt = "1+2+3...+99+100"``   `    `messages = [`        `{"role": "system", "content": "你是一个小学数学老师,你要教学生加法"},`        `{"role": "user", "content": prompt}`    `]`    `response = get_completion3(messages)``   `    `# 把大模型的回复加入到对话历史中`    `if (response.content is None):  # 解决 OpenAI 的一个 400 bug`        `response.content = "null"`    `messages.append(response)``   ``   `    `# 如果返回的是函数调用结果,则打印出来`    `if (response.tool_calls is not None):`        `# 是否要调用 sum`        `tool_call = response.tool_calls[0]`        `if (tool_call.function.name == "sum"):`            `# 调用 sum`            `args = json.loads(tool_call.function.arguments)`            `result = sum(args["numbers"])``   `            `# 把函数调用结果加入到对话历史中`            `messages.append(`                `{`                    `"tool_call_id": tool_call.id,  # 用于标识函数调用的 ID`                    `"role": "tool",`                    `"name": "sum",`                    `"content": str(result)  # 数值result 必须转成字符串`                `}`            `)``   `            `# 再次调用大模型`            `ic("=====最终回复=====")`            `ic(get_completion3(messages).content)``   ``   ``if __name__ == '__main__':`   `test_promopt()`    

输出

ic| '=====最终回复====='``ic| get_completion3(messages).content: 'The sum of 1, 2, 3, 4, 5, 6, 7, 8, 9, 10 is 55.'

2、通过代码套代码实现可以算任意数学表达式需求

`import openai``import os``from math import *``from icecream import ic``import json``from math import *``   ``# 加载 .env 文件``from dotenv import load_dotenv, find_dotenv``_ = load_dotenv(find_dotenv())``   ``# 从环境变量中获得你的 OpenAI Key``openai.api_key = os.getenv('OPENAI_API_KEY')``openai.api_base = os.getenv('OPENAI_API_URL')``model = os.getenv('MODEL')``   ``# 基于 prompt 生成文本``def get_completion(messages, model=model):`    `response = openai.ChatCompletion.create(`     `# 注意,以前的 openai.ChatCompletion 要换成 openai.chat.completions`        `model=model,`        `messages=messages,`        `temperature=0,  # 模型输出的随机性,0 表示随机性最小`        `tools=[{`            `"type": "function",`            `"function": {`                `"name": "calculate",`                `"description": "计算一个数学表达式的值",`                `"parameters": {`                    `"type": "object",`                    `"properties": {`                        `"expression": {`                            `"type": "string",`                            `"description": "a mathematical expression in python grammar.",`                        `}`                    `}`                `}`            `}`        `}],`    `)`    `return response.choices[0].message``   ``def test_promopt():`    `#prompt = "从1加到10"`    `prompt = "3的平方根乘以2再开平方"``   `    `messages = [`        `{"role": "system", "content": "你是一个数学家,你可以计算任何算式。"},`        `{"role": "user", "content": prompt}`    `]`    `response = get_completion(messages)`    `if (response.content is None):  # 解决 OpenAI 的一个 400 bug`        `response.content = "null"`    `messages.append(response)  # 把大模型的回复加入到对话中`    `ic("=====GPT回复=====")`    `ic(response)``   `    `# 如果返回的是函数调用结果,则打印出来`    `if (response.tool_calls is not None):`        `# 是否要调用 sum`        `tool_call = response.tool_calls[0]`        `if (tool_call.function.name == "calculate"):`            `# 调用 calculate`            `args = json.loads(tool_call.function.arguments)`            `result = eval(args["expression"])`            `ic("=====函数返回=====")`            `ic(result)``   `            `# 把函数调用结果加入到对话历史中`            `messages.append(`                `{`                    `"tool_call_id": tool_call.id,  # 用于标识函数调用的 ID`                    `"role": "tool",`                    `"name": "calculate",`                    `"content": str(result)  # 数值result 必须转成字符串`                `}`            `)``   `            `# 再次调用大模型`            `ic("=====最终回复=====")`            `ic(get_completion(messages).content)``   ``   ``if __name__ == '__main__':`   `test_promopt()`    

输出

ic| '=====GPT回复====='``ic| response: <OpenAIObject at 0x1a97b6d3480> JSON: {`                `"role": "assistant",`                `"content": "null",`                `"tool_calls": [`                  `{`                    `"id": "call_jSVjTMqMIMUHYCpDisvpYInp",`                    `"type": "function",`                    `"function": {`                      `"name": "calculate",`                      `"arguments": "{\"expression\":\"((3**0.5)*2)**0.5\"}"`                    `}`                  `}`                `]`              `}``ic| '=====函数返回====='``ic| result: 1.8612097182041991``ic| '=====最终回复====='``ic| get_completion(messages).content: '3的平方根乘以2再开平方的结果约为1.8612。'

3、从一段文字中抽取联系人姓名、地址和电话,用 Function Calling 获取 JSON 结构轻松解决,在没有大模型之前非常难解决的问题

`import openai``import os``from math import *``from icecream import ic``import json``from math import *``import requests``import logging``# 设置日志记录配置``logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - %(message)s')``   ``# 加载 .env 文件``from dotenv import load_dotenv, find_dotenv``_ = load_dotenv(find_dotenv())``   ``# 从环境变量中获得你的 OpenAI Key``openai.api_key = os.getenv('OPENAI_API_KEY')``openai.api_base = os.getenv('OPENAI_API_URL')``model = os.getenv('MODEL')``amap_key = os.getenv('GAODE_MAP_API_KEY')``   ``def get_completion(messages, model=model):`    `response = openai.ChatCompletion.create(`        `model=model,`        `messages=messages,`        `temperature=0,  # 模型输出的随机性,0 表示随机性最小`        `tools=[{`            `"type": "function",`            `"function": {`                `"name": "add_contact",`                `"description": "添加联系人",`                `"parameters": {`                    `"type": "object",`                    `"properties": {`                        `"name": {`                            `"type": "string",`                            `"description": "联系人姓名"`                        `},`                        `"address": {`                            `"type": "string",`                            `"description": "联系人地址"`                        `},`                        `"tel": {`                            `"type": "string",`                            `"description": "联系人电话"`                        `},`                    `}`                `}`            `}`        `}],`    `)`    `return response.choices[0].message``   ``   ``   ``   ``def test_promopt():`    `prompt = "帮我寄给星城老谭,地址是湖南省长沙市岳麓区湘江壹号8楼,电话1887486XXXX。"`    `messages = [`        `{"role": "system", "content": "你是一个联系人录入员。"},`        `{"role": "user", "content": prompt}`    `]`    `response = get_completion(messages)`    `logging.info("====GPT回复====")`    `logging.info(response)`    `args = json.loads(response.tool_calls[0].function.arguments)`    `logging.info("====函数参数====")`    `logging.info(args)``   ``if __name__ == '__main__':`   `test_promopt()`    

输出

2024-06-05 13:31:30,121 - INFO - ====GPT回复====``2024-06-05 13:31:30,124 - INFO - {`  `"role": "assistant",`  `"content": null,`  `"tool_calls": [`    `{`      `"id": "call_QEnFRbZRBs2Eww4YbUxP7oKv",`      `"type": "function",`      `"function": {`        `"name": "add_contact",`        `"arguments": "{\"name\":\"\u661f\u57ce\u8001\u8c2d\",\"address\":\"\u6e56\u5357\u7701\u957f\u6c99\u5e02\u5cb3\u9e93\u533a\u6e58\u6c5f\u58f9\u53f78\u697c\",\"tel\":\"18874868888\"}"`      `}`    `}`  `]``}``2024-06-05 13:31:30,124 - INFO - ====函数参数====``2024-06-05 13:31:30,125 - INFO - {'name': '星城老谭', 'address': '湖南省长沙市岳麓区湘江壹号8楼', 'tel': '1887486XXXX'}

七、总结

ChatGPT 的 Function Calling 机制极大地扩展了其功能,使其能够在对话中动态调用外部函数,提供实时、个性化和互动的服务。这一机制不仅提升了用户体验,也为开发者提供了强大的工具,帮助他们构建更智能、更强大的对话系统和应用。理解并善用这一机制,能让你在 AI 应用开发中占据领先地位。

通过这篇文章,希望你对 ChatGPT 的 Function Calling 机制有了更深入的了解。未来,随着这一技术的不断发展,我们可以期待更多令人惊喜的应用场景。

随着大模型的持续爆火,各行各业都在开发搭建属于自己企业的私有化大模型,那么势必会需要大量大模型人才,同时也会带来大批量的岗位?“雷军曾说过:站在风口,猪都能飞起来”可以说现在大模型就是当下风口,是一个可以改变自身的机会,就看我们能不能抓住了。

那么,我们该如何学习大模型?

作为一名热心肠的互联网老兵,我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

一、大模型全套的学习路线

学习大型人工智能模型,如GPT-3、BERT或任何其他先进的神经网络模型,需要系统的方法和持续的努力。既然要系统的学习大模型,那么学习路线是必不可少的,下面的这份路线能帮助你快速梳理知识,形成自己的体系。

L1级别:AI大模型时代的华丽登场

L2级别:AI大模型API应用开发工程

L3级别:大模型应用架构进阶实践

L4级别:大模型微调与私有化部署

一般掌握到第四个级别,市场上大多数岗位都是可以胜任,但要还不是天花板,天花板级别要求更加严格,对于算法和实战是非常苛刻的。建议普通人掌握到L4级别即可。

以上的AI大模型学习路线,不知道为什么发出来就有点糊,高清版可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

二、640套AI大模型报告合集

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。

img

三、大模型经典PDF籍

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

以上的AI大模型学习资料,都已上传至CSDN,需要的小伙伴可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费

作为普通人,入局大模型时代需要持续学习和实践,不断提高自己的技能和认知水平,同时也需要有责任感和伦理意识,为人工智能的健康发展贡献力量。

  • 7
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值