在这篇文章中,我们将介绍如何使用 PremAI Embeddings 和 LlamaIndex 进行嵌入向量生成。PremAI 是一个统一的平台,允许你以最小的努力构建强大的生产级生成式 AI 应用程序,使你可以更专注于用户体验和整体增长。
安装和设置
首先,我们需要安装 llama-index
和 premai-sdk
。你可以使用以下命令进行安装:
pip install premai llama-index
在继续之前,请确保你已经在 PremAI 上创建了账户并启动了一个项目。如果没有,请按照以下步骤操作:
- 在 PremAI 上登录或注册,并创建一个 API 密钥。
- 访问 app.premai.io 以进入项目的仪表盘。
- 创建一个项目,这将生成一个项目 ID。该 ID 将帮助你与已部署的应用程序进行交互。
恭喜你已经在 PremAI 上创建了第一个已部署的应用程序 🎉。现在我们可以使用 llama-index
与我们的应用程序进行交互。
设置 PremAIEmbeddings 实例
安装所需模块后,我们需要设置客户端。在这里假设我们的项目 ID 是 8,但请确保使用你的项目 ID,否则会抛出错误。在使用嵌入模型时,还需要传递模型名称。以下是 PremAI 上可用的模型列表:
提供商 | Slug | Context Tokens |
---|---|---|
cohere | embed-english-v3.0 | N/A |
openai | text-embedding-3-small | 8191 |
openai | text-embedding-3-large | 8191 |
openai | text-embedding-ada-002 | 8191 |
replicate | replicate/all-mpnet-base-v2 | N/A |
together | togethercomputer/Llama-2-7B-32K-Instruct | N/A |
mistralai | mistral-embed | 4096 |
要更改模型,只需复制 slug 并访问你的嵌入模型。
import os
import getpass
from llama_index.embeddings.premai import PremAIEmbeddings
if os.environ.get("PREMAI_API_KEY") is None:
os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:") # 输入你的 PremAI API Key
prem_embedding = PremAIEmbeddings(
project_id=8, # 使用你的项目 ID
model_name="text-embedding-3-large" # 使用你选择的模型
)
注释 : //中转API
调用嵌入模型
现在一切准备就绪,我们可以开始使用我们的嵌入模型进行单个查询以及多个查询(也称为文档)。
query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)
print(f"Dimension of embeddings: {len(query_result)}")
print(query_result[:5])
注释 : //中转API
可能遇到的错误
在使用 PremAI Embeddings 时,你可能会遇到以下错误:
- API Key 错误: 如果你的 API Key 不正确或过期,可能会抛出认证错误。确保你的 API Key 有效且正确。
- 项目 ID 错误: 如果项目 ID 不正确,可能会导致无法连接到正确的项目。请确保使用正确的项目 ID。
- 模型名称错误: 如果模型名称拼写错误或不可用,可能会抛出模型不可用错误。确保模型名称正确且可用。
如果你觉得这篇文章对你有帮助,请点赞,关注我的博客,谢谢!
参考资料: