使用FireworksAI进行检索任务：从零搭建一个LangChain应用-CSDN博客

本文链接：https://blog.csdn.net/bhawfgrcbtwny/article/details/142829839

引言

在信息爆炸的时代，如何高效地进行信息检索成为一个重要的课题。本文将介绍如何使用FireworksAI提供的开源模型，通过retrieval-agent-fireworks包在Arxiv上进行文献检索。我们将探讨如何利用LangChain框架构建应用，并分享设置和使用该工具的详细步骤。

主要内容

环境设置

要开始使用FireworksAI提供的模型，首先需要设置环境变量FIREWORKS_API_KEY来访问API。请确保在使用前获取有效的API密钥。

export FIREWORKS_API_KEY=<你的api_key>

安装LangChain CLI

安装LangChain CLI是使用retrieval-agent-fireworks包的前提步骤。可以通过如下命令进行安装：

pip install -U langchain-cli

创建LangChain项目

有两种方式使用retrieval-agent-fireworks包：

创建新项目：这将创建一个包含retrieval-agent-fireworks包的LangChain应用。
```
langchain app new my-app --package retrieval-agent-fireworks
```
添加到现有项目：如果已有项目，可以通过下面的命令添加该包：
```
langchain app add retrieval-agent-fireworks
```

配置服务器

在server.py中，添加以下代码以配置检索代理的路由：

from retrieval_agent_fireworks import chain as retrieval_agent_fireworks_chain

add_routes(app, retrieval_agent_fireworks_chain, path="/retrieval-agent-fireworks")

可选配置：LangSmith

LangSmith可用于追踪、监控及调试LangChain应用。如果需要使用，需设置以下环境变量：

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # 默认为 "default"

代码示例

以下是一个完整的代码示例，展示如何启动本地服务器：

from langserve.client import RemoteRunnable

# 启动本地服务器
langchain serve

# 创建RemoteRunnable实例
runnable = RemoteRunnable("http://localhost:8000/retrieval-agent-fireworks")

# 使用API代理服务提高访问稳定性

在启动服务器后，你可以访问http://127.0.0.1:8000/docs查看所有模板，并使用http://127.0.0.1:8000/retrieval-agent-fireworks/playground访问操控台。