引导大型语言模型调用工具：构建多功能聊天助手

最新推荐文章于 2024-10-02 10:53:34 发布

aehrutktrjk

最新推荐文章于 2024-10-02 10:53:34 发布

阅读量245

点赞数 4

文章标签：语言模型 python 人工智能

本文链接：https://blog.csdn.net/aehrutktrjk/article/details/142321741

版权

## 引言

在构建智能聊天助手时，工具调用能力是一个重要功能。尽管有些模型已经针对工具调用进行了微调，但本文介绍如何通过自定义提示，为不具备原生工具调用功能的聊天模型添加该能力。我们将通过一个具体例子来演示这一过程。

## 主要内容

### 1. 环境设置

首先，确保安装必要的包：

```bash
%pip install --upgrade --quiet langchain langchain-community

2. 创建工具

为了演示，我们将创建两个简单的数学工具：加法和乘法。

from langchain_core.tools import tool

@tool
def multiply(x: float, y: float) -> float:
    """Multiply two numbers together."""
    return x * y

@tool
def add(x: int, y: int) -> int:
    """Add two numbers."""
    return x + y

tools = [multiply, add]

3. 编写提示

我们将编写一个系统提示，告诉模型如何选择和调用工具。

from langchain_core.prompts import ChatPromptTemplate
from langchain_core.tools import render_text_description

rendered_tools = render_text_description(tools)

system_prompt = f"""\
You are an assistant that has access to the following set of tools. 
Here are the names and descriptions for each tool:

{rendered_tools}

Given the user input, return the name and input of the tool to use. 
Return your response as a JSON blob with 'name' and 'arguments' keys.
"""

prompt = ChatPromptTemplate.from_messages(
    [("system", system_prompt), ("user", "{input}")]
)

4. 调用工具并解析输出

通过以下逻辑，我们可以解析模型的输出并实际执行工具调用。

from langchain_core.output_parsers import JsonOutputParser

chain = prompt | model | JsonOutputParser()

def invoke_tool(tool_call_request):
    tool_name_to_tool = {tool.name: tool for tool in tools}
    name = tool_call_request["name"]
    requested_tool = tool_name_to_tool[name]
    return requested_tool.invoke(tool_call_request["arguments"])

result = chain.invoke({"input": "what's thirteen times 4.14137281"})
print(result)