安装

首先安装 Python 包：

pip install embedchain
  • 1.

安装包后，根据您的偏好，您可以选择使用以下内容：

开源模型

本节提供了一个快速入门示例，展示了如何使用 Mistral 作为开源 LLM（大型语言模型）和 Sentence transformers 作为开源嵌入模型。这些模型是免费的，并且主要在您的本地机器上运行。

我们使用的是在 Hugging Face 上托管的 Mistral，因此您需要一个 Hugging Face 令牌来运行此示例。它是 免费 的，您可以在此处创建一个  here。

import os
# 将此行替换为您的 HF 令牌
os.environ["HUGGINGFACE_ACCESS_TOKEN"] = "hf_xxxx"

from embedchain import App

config = {
  'llm': {
    'provider': 'huggingface',
    'config': {
      'model': 'mistralai/Mistral-7B-Instruct-v0.2',
      'top_p': 0.5
    }
  },
  'embedder': {
    'provider': 'huggingface',
    'config': {
      'model': 'sentence-transformers/all-mpnet-base-v2'
    }
  }
}
app = App.from_config(config=config)
app.add("https://www.forbes.com/profile/elon-musk")
app.add("https://en.wikipedia.org/wiki/Elon_Musk")
app.query("What is the net worth of Elon Musk today?")
# 回答：Elon Musk 今天的净资产是 2587 亿美元。
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.
  • 8.
  • 9.
  • 10.
  • 11.
  • 12.
  • 13.
  • 14.
  • 15.
  • 16.
  • 17.
  • 18.
  • 19.
  • 20.
  • 21.
  • 22.
  • 23.
  • 24.
  • 25.
  • 26.

付费模型

在本节中，我们将使用来自 OpenAI 的 LLM 和嵌入模型。

import os
from embedchain import App

# 将此行替换为您的 OpenAI 密钥
os.environ["OPENAI_API_KEY"] = "sk-xxxx"

app = App()
app.add("https://www.forbes.com/profile/elon-musk")
app.add("https://en.wikipedia.org/wiki/Elon_Musk")
app.query("What is the net worth of Elon Musk today?")
# 回答：Elon Musk 今天的净资产是 2587 亿美元。
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.
  • 8.
  • 9.
  • 10.
  • 11.

引用