探索AI模型的工具调用：实现功能调用的实用指南

sjufgwgfhoia

于 2024-10-03 17:20:24 发布

阅读量153

点赞数 2

文章标签：人工智能数据库 python

本文链接：https://blog.csdn.net/sjufgwgfhoia/article/details/142693808

版权

引言

在AI开发中，工具调用（Tool Calling）是一种强大的技术，可用于从语言模型获得结构化输出。这种技术让模型能生成符合用户定义的模式的输出，而执行工具（或不执行）则由用户决定。本文将探讨如何实现工具调用，提供实用的知识和代码示例。

主要内容

什么是工具调用？

工具调用允许AI模型根据用户定义的模式生成输出。虽然名称暗示模型在执行某些操作，但实际上，模型只是在生成工具的参数。实际运行工具的决定在于用户。

支持工具调用的主流提供商

许多大型语言模型（LLM）提供商，如Anthropic、Cohere、Google、Mistral和OpenAI，支持某种形式的工具调用。这使得它们能够在响应中包含对工具的调用。

LangChain的实现

LangChain提供了一套标准接口，用于定义工具、传递给LLM并表示工具调用。通过bind_tools()方法，工具绑定到模型上，从而在每次调用模型时包含工具模式。

代码示例

以下是如何使用LangChain定义和绑定工具的示例：

from langchain_core.tools import tool

@tool
def add(a: int, b: int) -> int:
    """Adds a and b."""
    return a + b

@tool
def multiply(a: int, b: int) -> int:
    """Multiplies a and b."""
    return a * b

tools = [add, multiply]

# 使用API代理服务提高访问稳定性
import getpass
import os

os.environ["OPENAI_API_KEY"] = getpass.getpass()

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4o-mini")
llm_with_tools = llm.bind_tools(tools)

query = "What is 3 * 12? Also, what is 11 + 49?"
result = llm_with_tools.invoke(query).tool_calls

print(result)