大模型应用开发：编写插件获取实时天气信

程序学到昏

于 2024-10-02 07:15:00 发布

阅读量503

点赞数 8

文章标签：数据库人工智能自然语言处理 langchain llama 大模型 LLM

本文链接：https://blog.csdn.net/Y525698136/article/details/142615902

版权

我将带你一起探索如何利用OpenAI API开发GPT应用。无论你是编程新手还是资深开发者，都能在这里获得灵感和收获。

本文，我们将继续展示聊天API中插件的使用方法，让你能够轻松驾驭这个强大的工具。

插件运行效果

首先给大家展示下插件的运行效果，如下图所示：

在这里插入图片描述

可以看到，每次询问GPT，它都会返回指定城市的实时天气信息，这个天气是真实的，不是GPT瞎编的，是GPT通过一个实时天气插件查询到的。

插件运行原理

知己知彼，百战不殆！首先让我们来了解下插件的运行原理。如下图所示：

在这里插入图片描述

首先我们在客户端发起一个聊天会话，比如询问GPT：“今天天气怎么样？”

为了使用我们自己的插件，我们还需要告诉GPT有哪些插件可用，目前这需要我们在发起聊天时传递一个支持的插件列表给GPT。

然后GPT收到我们的聊天后，它会根据用户的聊天内容去匹配插件，并在返回的消息中指示命中了哪些插件，这个匹配是根据GPT的语言理解能力做出的。

然后客户端就可以检查命中了哪些插件，并调用执行本地相应的插件方法。插件方法是在本地执行的，这也比较合理，如果放到GPT服务端，GPT不仅要适配各种计算能力，还可能面临巨大的安全风险。

然后客户端将插件的执行结果附加到本次聊天会话中，再次发起聊天请求，GPT收到后，会根据首次聊天请求和插件生成的内容组织本次聊天响应结果，再返回给用户。

这样就完成了一次基于插件的GPT会话。

插件使用示例

基于上面的运行原理，我们来编写一个GPT插件的示例程序。

在这个示例程序中，我将提供一个天气查询的插件，当用户询问GPT今天的天气时，GPT就会命中这个插件，然后插件会调用外部API获取实时的天气情况，最后GPT会使用插件生成的结果组织一段文字回复返回给用户。

编写天气插件

这里我们将使用“心知天气”提供的免费天气查询服务，大家感兴趣的可以去这里注册个账号：https://www.seniverse.com/，注册成功后，需要复制账号的私钥，调用天气接口时会用到。

在这里插入图片描述

然后我们就可以编写天气查询插件了，这里直接给出我的代码：

def get_city_weather(param):
    city = json.loads(param)["city"]
    params = {
        "key": "这里换成你的天气产品私钥",
        "location": city,
        "language": "zh-Hans",
        "unit": "c",
    }
    url = "https://api.seniverse.com/v3/weather/now.json"
    r = requests.get(url, params=params)
   
    data = r.json()["results"]
    address = data[0]["location"]['path']
    temperature = data[0]['now']["temperature"]
    text = data[0]['now']["text"]
    return address+"，当前天气："+text+"，温度："+temperature+ "℃"

可以看到就是一个Python函数，接收json格式的参数，返回天气描述信息。

注意这里的参数格式（包括有哪些参数）是和GPT大模型匹配过的，下文会讲到怎么定义参数。

接口的主要逻辑就是使用城市名称，调用实时天气接口获取天气信息，然后再拼接成一段话并返回。

我这里只使用了天气的部分指标，详细指标大家可以看接口文档：

https://seniverse.yuque.com/hyper_data/api_v3/nyiu3t?#%20%E3%80%8A%E5%A4%A9%E6%B0%94%E5%AE%9E%E5%86%B5%E3%80%8B

发起带插件的聊天

话不多说，看代码：

client = OpenAI(api_key='sk-xxx')

# 聊天消息上下文
messages=[{
    "role": "user",
    "content": "请问现在天气怎么样？",
}]

# 天气插件
weather_tool = {
        "type": "function",
        "function": {
            "name": "get_city_weather",
            "description": "获取某个城市的天气",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {
                        "type": "string",
                        "description": "城市名称",
                    },
                },
                "required": ["city"],
            },
        }
    }

# 发起聊天请求
response = client.chat.completions.create(
    messages=messages,
    model='gpt-3.5-turbo-1106',
    stream=False,
    # 插件相关
    tool_choice="auto",
    tools=[weather_tool]
)

在上面这段代码中，我们首先声明了一个OpenAI客户端，没有API Key的同学可以看文章最后。

然后我们创建了一个很普通的聊天会话，就是以普通用户的身份询问GPT今天的天气情况。

然后我们定义了一个天气插件，其实就是一个Json对象。

type：目前只能传 fucntion，也就是说目前插件就是外置函数。
function：函数的定义。

- name：函数的名称，这里就是我们上边定义的 get_city_weather。
- description：函数的描述，GPT将使用这个描述来决定什么时候以及如何调用函数。
- parameters：函数的参数。

- - type：固定object
  - properties：定义函数的各个参数，每个参数包含两个属性：type和description，description也很重要，让GPT模型知道怎么来提供这个参数。
  - required：数组，定义必填的参数。

最后我们向GPT发起本次聊天请求，其中增加了关于插件的两个参数：

tool_choice：开启插件，固定值 auto，设置为none则不使用插件。
tools：插件列表，包含我们上边定义的 weather_tool 插件。

处理插件命中

如果GPT大模型命中了插件，它会在返回值中携带一些信息。根据这些信息，我们可以知道要调用哪个插件的函数，然后再把函数的执行结果附加到消息上下文中，再请求GPT大模型，GPT大模型会使用函数返回值组织文本内容，最终返回给用户。

完整的代码示例

因为上文中两次请求GPT大模型的方法都是一样的，所以我们这里把它抽象为一个方法。

另外为了充分展现插件的使用方法，这里会向GPT询问三个城市的天气信息，通过循环发起。

from openai import OpenAI
import json
import requests
import time

# 获取天气的方法
def get_city_weather(param):
    city = json.loads(param)["city"]
    params = {
        "key": "这里换成你的天气产品私钥",
        "location": city,
        "language": "zh-Hans",
        "unit": "c",
    }
    url = "https://api.seniverse.com/v3/weather/now.json"
    r = requests.get(url, params=params)
    
    data = r.json()["results"]
    #print(json.dumps(data))
    address = data[0]["location"]['path']
    temperature = data[0]['now']["temperature"]
    text = data[0]['now']["text"]
    return address+"，当前天气："+text+"，温度："+temperature+ "℃"
          
# 天气插件的定义
weather_tool = {
        "type": "function",
        "function": {
            "name": "get_city_weather",
            "description": "获取某个城市的天气",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {
                        "type": "string",
                        "description": "城市名称",
                    },
                },
                "required": ["city"],
            },
        }
    }

# 创建OpenAI客户端，获取API Key请看文章最后
client = OpenAI(api_key='sk-xxx')

# 定义请求GPT的通用方法
def create_completion():
    return client.chat.completions.create(
        messages=messages,
        model='gpt-3.5-turbo-1106',
        stream=False,
        tool_choice="auto",
        tools=[weather_tool]
    )


# 我的三个问题
questions = ["请问现在天气怎么样？","请问上海天气怎么样？","请问广州天气怎么样？"]

# 聊天上下文，初始为空
messages=[]

print("---GPT天气插件演示--- ")

# 遍历询问我的问题
for question in questions:  
   
    # 将问题添加到上下文中
    messages.append({
        "role": "user",
        "content": question,
    })
    print("路人甲: ",question)
    
    # 请求GPT，并拿到响应
    response_message = create_completion().choices[0].message
    # 把响应添加到聊天上下文中
    messages.append(response_message)
    #print(response_message)
    # 根据插件命中情况，执行插件逻辑
    if response_message.tool_calls is not None:
        tool_call = response_message.tool_calls[0]
        #print("tool_call: ",tool_call.id)
        # 追加插件生成的天气内容到聊天上下文
        weather_info = get_city_weather(tool_call.function.arguments)
        #print(weather_info)
        messages.append({
            "role": "tool",
            "content": weather_info,
            "tool_call_id": tool_call.id
        })
        # 再次发起聊天
        second_chat_completion = create_completion()
        gpt_output = second_chat_completion.choices[0].message.content
        # 打印GPT合成的天气内容
        print("GPT: ",gpt_output)
        time.sleep(0.2)
        # 将GPT的回答也追加到上下文中
        messages.append({
            "role": "assistant",
            "content": gpt_output,
        })

以上就是本文的主要内容，有没有感受到插件的强大能力！

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望