掌握工具调用：使用聊天模型与工具集成

最新推荐文章于 2024-09-26 11:55:47 发布

llzwxh888

最新推荐文章于 2024-09-26 11:55:47 发布

阅读量231

点赞数 4

文章标签： python

本文链接：https://blog.csdn.net/ppoojjj/article/details/142546826

版权

引言

在现代AI应用中，工具调用（Tool Calling）是一个强大的技术，允许聊天模型在处理任务时自动生成工具调用的参数。本文旨在帮助您理解如何定义工具模式并与聊天模型集成，从而实现工具调用。

主要内容

工具调用简介

工具调用是一种技术，通过模型生成结构化输出，而实际的工具执行由用户决定。这种方法不仅适用于直接调用工具，还可以用来从非结构化文本中提取信息。

定义工具模式

为了使模型能够调用工具，需要定义工具模式。这些模式描述工具的功能及其参数。工具模式可以使用Python函数、Pydantic模型、TypedDict类或LangChain工具对象来定义。

示例：Python函数

def add(a: int, b: int) -> int:
    """Add two integers."""
    return a + b

def multiply(a: int, b: int) -> int:
    """Multiply two integers."""
    return a * b

示例：Pydantic类

from langchain_core.pydantic_v1 import BaseModel, Field

class Add(BaseModel):
    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")

class Multiply(BaseModel):
    a: int = Field(..., description="First integer")
    b: int = Field(..., description="Second integer")

绑定工具到LLM

通过.bind_tools()方法，可以将定义好的工具模式绑定到聊天模型上。

支持的模型

工具调用并非普遍支持，但许多流行的LLM提供商都支持该功能，包括OpenAI、Anthropic、Azure等。

代码示例

以下是一个完整的代码示例，展示如何绑定工具并调用模型：

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4o-mini")

tools = [Add, Multiply]
llm_with_tools = llm.bind_tools(tools)

query = "What is 3 * 12?"
response = llm_with_tools.invoke(query)
print(response.tool_calls)

# 使用API代理服务提高访问稳定性