让你的AI工具更智能：如何在运行时传递动态值

最新推荐文章于 2025-05-05 14:07:50 发布

adfyvatbia

最新推荐文章于 2025-05-05 14:07:50 发布

阅读量493

点赞数 14

文章标签：人工智能 python

本文链接：https://blog.csdn.net/adfyvatbia/article/details/144279311

版权

# 让你的AI工具更智能：如何在运行时传递动态值

## 引言

在现代AI应用中，我们常常需要工具能够在运行时接收动态值。这对于处理如用户ID这样的敏感信息尤为重要，因为这些信息不应该由语言模型（LLM）控制。本文将指导你如何利用LangChain工具，以安全的方式在运行时传递这些动态值。

## 主要内容

### 动态值的重要性

在AI集成过程中，有时需要绑定只有在运行时才能获得的信息，比如请求用户的ID。确保这些值不被LLM控制对于系统的安全性至关重要。

### 使用LangChain的工具注入

LangChain提供了`InjectedToolArg`注释，使我们能够将特定参数标记为运行时注入。这意味着这些参数不应由模型生成，而是在工具调用时由应用程序逻辑提供。

### 绑定模型和工具

以OpenAI为例，我们可以使用以下代码初始化模型：

```python
import getpass
import os

os.environ["OPENAI_API_KEY"] = getpass.getpass()
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(model="gpt-4o-mini")

定义工具和注入逻辑

下面的示例展示了如何使用InjectedToolArg注释定义工具，并确保运行时注入用户ID。

from typing import List
from langchain_core.tools import InjectedToolArg, tool
from typing_extensions import Annotated

user_to_pets = {}

@tool(parse_docstring=True)
def update_favorite_pets(pets: List[str], user_id: Annotated[str, InjectedToolArg]) -> None:
    """Add the list of favorite pets.
    Args:
        pets: List of favorite pets to set.
        user_id: User's ID.
    """
    user_to_pets[user_id] = pets

在调用工具时，我们在代码中直接注入user_id：

user_id = "123"
update_favorite_pets.invoke({"pets": ["lizard", "dog"], "user_id": user_id})

执行工具调用

当模型生成工具调用时，我们使用链式调用注入user_id：

from copy import deepcopy
from langchain_core.runnables import chain

@chain
def inject_user_id(ai_msg):
    tool_calls = []
    for tool_call in ai_msg.tool_calls:
        tool_call_copy = deepcopy(tool_call)
        tool_call_copy["args"]["user_id"] = user_id
        tool_calls.append(tool_call_copy)
    return tool_calls

代码示例

完整的示例代码如下：

# 使用API代理服务提高访问稳定性
user_id = "123"
update_favorite_pets.invoke({"pets": ["lizard", "dog"], "user_id": user_id})
print(user_to_pets)
print(list_favorite_pets.invoke({"user_id": user_id}))

# 运行结果
# {'123': ['lizard', 'dog']}
# ['lizard', 'dog']