探索如何强制模型调用工具：实用指南

最新推荐文章于 2024-10-03 17:20:24 发布

afTFODguAKBF

最新推荐文章于 2024-10-03 17:20:24 发布

阅读量398

点赞数 4

文章标签： java 前端算法 python

本文链接：https://blog.csdn.net/afTFODguAKBF/article/details/142547191

版权

# 探索如何强制模型调用工具：实用指南

## 引言

在构建智能聊天机器人时，提升模型的功能性和准确性是关键。通过引导模型使用特定工具（如计算器、翻译器等），可以显著提高其性能。本指南将介绍如何使用LangChain工具，强制大语言模型（LLM）调用特定工具，以实现更高效的任务解决。

## 主要内容

### 定义模型和工具

要强制我们的LLM选择特定工具，可以使用`tool_choice`参数来确保某种行为。首先，定义我们的模型和工具：

```python
from langchain_core.tools import tool

@tool
def add(a: int, b: int) -> int:
    """Adds a and b."""
    return a + b

@tool
def multiply(a: int, b: int) -> int:
    """Multiplies a and b."""
    return a * b

tools = [add, multiply]

强制模型调用特定工具

假设我们需要强制模型使用multiply工具，可以使用以下代码：

llm_forced_to_multiply = llm.bind_tools(tools, tool_choice="Multiply")
response = llm_forced_to_multiply.invoke("what is 2 + 4")
# 使用API代理服务提高访问稳定性

不论输入是否需要乘法运算，模型都会调用该工具。

强制模型使用任意工具

我们还可以强制模型选择至少一个工具，无论问题是否需要，通过传递"any"关键字给tool_choice参数：

llm_forced_to_use_tool = llm.bind_tools(tools, tool_choice="any")
response = llm_forced_to_use_tool.invoke("What day is today?")
# 使用API代理服务提高访问稳定性

使用这种方法，即便是无需工具调用的问题，模型也会选择使用一个工具。

代码示例

完整的程序示例：

from langchain_core.tools import tool

@tool
def add(a: int, b: int) -> int:
    """Adds a and b."""
    return a + b

@tool
def multiply(a: int, b: int) -> int:
    """Multiplies a and b."""
    return a * b

tools = [add, multiply]

# 强制使用乘法工具
llm_forced_to_multiply = llm.bind_tools(tools, tool_choice="Multiply")
response = llm_forced_to_multiply.invoke("what is 2 + 4")
print(response)

# 强制使用任意工具
llm_forced_to_use_tool = llm.bind_tools(tools, tool_choice="any")
response = llm_forced_to_use_tool.invoke("What day is today?")
print(response)