使用 PremAI Embeddings 和 LlamaIndex 进行嵌入向量生成

在这篇文章中，我们将介绍如何使用 PremAI Embeddings 和 LlamaIndex 进行嵌入向量生成。PremAI 是一个统一的平台，允许你以最小的努力构建强大的生产级生成式 AI 应用程序，使你可以更专注于用户体验和整体增长。

安装和设置

首先，我们需要安装 llama-index 和 premai-sdk。你可以使用以下命令进行安装：

pip install premai llama-index

在继续之前，请确保你已经在 PremAI 上创建了账户并启动了一个项目。如果没有，请按照以下步骤操作：

1. 在 PremAI 上登录或注册，并创建一个 API 密钥。
2. 访问 app.premai.io 以进入项目的仪表盘。
3. 创建一个项目，这将生成一个项目 ID。该 ID 将帮助你与已部署的应用程序进行交互。

恭喜你已经在 PremAI 上创建了第一个已部署的应用程序 🎉。现在我们可以使用 llama-index 与我们的应用程序进行交互。

设置 PremAIEmbeddings 实例

安装所需模块后，我们需要设置客户端。在这里假设我们的项目 ID 是 8，但请确保使用你的项目 ID，否则会抛出错误。在使用嵌入模型时，还需要传递模型名称。以下是 PremAI 上可用的模型列表：

提供商	Slug	Context Tokens
cohere	embed-english-v3.0	N/A
openai	text-embedding-3-small	8191
openai	text-embedding-3-large	8191
openai	text-embedding-ada-002	8191
replicate	replicate/all-mpnet-base-v2	N/A
together	togethercomputer/Llama-2-7B-32K-Instruct	N/A
mistralai	mistral-embed	4096

要更改模型，只需复制 slug 并访问你的嵌入模型。

import os
import getpass
from llama_index.embeddings.premai import PremAIEmbeddings

if os.environ.get("PREMAI_API_KEY") is None:
    os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")  # 输入你的 PremAI API Key

prem_embedding = PremAIEmbeddings(
    project_id=8,  # 使用你的项目 ID
    model_name="text-embedding-3-large"  # 使用你选择的模型
)

注释 : //中转API

调用嵌入模型

现在一切准备就绪，我们可以开始使用我们的嵌入模型进行单个查询以及多个查询（也称为文档）。

query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)

print(f"Dimension of embeddings: {len(query_result)}")
print(query_result[:5])

注释 : //中转API

可能遇到的错误

在使用 PremAI Embeddings 时，你可能会遇到以下错误：

1. API Key 错误: 如果你的 API Key 不正确或过期，可能会抛出认证错误。确保你的 API Key 有效且正确。
2. 项目 ID 错误: 如果项目 ID 不正确，可能会导致无法连接到正确的项目。请确保使用正确的项目 ID。
3. 模型名称错误: 如果模型名称拼写错误或不可用，可能会抛出模型不可用错误。确保模型名称正确且可用。

如果你觉得这篇文章对你有帮助，请点赞，关注我的博客，谢谢!

参考资料:

• PremAI 官方文档
• LlamaIndex 官方文档