优雅地禁用OpenAI工具并行调用的技巧

最新推荐文章于 2024-09-26 14:22:02 发布

ahdfwcevnhrtds

最新推荐文章于 2024-09-26 14:22:02 发布

阅读量218

点赞数 3

文章标签：服务器运维 python

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/142547002

版权

引言

在使用OpenAI提供的API时，工具调用通常默认以并行方式执行。然而，有时我们可能需要强制工具一次只调用一个。本文将详细介绍如何禁用OpenAI的工具并行调用，以便更好地控制我们的API请求。

主要内容

1. 什么是工具并行调用？

OpenAI的工具调用功能允许我们同时调用多个工具，从而加快整体响应速度。然而，对于某些应用场景，我们可能希望顺序调用工具，此时就需要禁用并行调用。

2. 设置工具和模型

首先，我们需要设置我们的工具和模型。以下代码展示了如何定义两个简单的工具：加法和乘法。

from langchain_core.tools import tool

@tool
def add(a: int, b: int) -> int:
    """Adds a and b."""
    return a + b

@tool
def multiply(a: int, b: int) -> int:
    """Multiplies a and b."""
    return a * b

tools = [add, multiply]

接下来，设置我们的语言模型：

import os
from getpass import getpass
from langchain_openai import ChatOpenAI

os.environ["OPENAI_API_KEY"] = getpass()  # 输入你的OpenAI API密钥

llm = ChatOpenAI(model="gpt-3.5-turbo-0125", temperature=0)

3. 禁用工具并行调用

为了限制工具的并行调用，我们可以使用parallel_tool_calls=False参数：

llm_with_tools = llm.bind_tools(tools, parallel_tool_calls=False)

通过这种方式，即使我们请求多次调用工具，模型也仅会顺序调用工具。

代码示例

下列代码展示了禁用并行调用的具体操作：

llm_with_tools = llm.bind_tools(tools, parallel_tool_calls=False)
llm_with_tools.invoke("Please call the first tool two times").tool_calls

# 输出结果
[{'name': 'add',
  'args': {'a': 2, 'b': 2},
  'id': 'call_Hh4JOTCDM85Sm9Pr84VKrWu5'}]