Dify应用实践_API

Tip:

  • Dify 目前支持多个 Rerank 模型，进入 “模型供应商” 页填入重排序模型（Rerank Model）
    （例如 Cohere、Jina 等模型）的 API Key。
  • Dify 元数据存在 PostgreSQL 中
  • LocalAI 的All-in-One image（localai/localai:latest-aio-cpu）含有 a pre-configured set of models and backends，以充分利用几乎所有的LocalAI功能；而standard images没有any model pre-configured and installed；如果没有GPU, 需使用 CPU images。
  • The LocalAI’s (All-in-One)AIO images come pre-configured with the following features:
  • Text to Speech (TTS)
  • Speech to Text
  • Function calling
  • Large Language Models (LLM) for text generation
  • Image generation
  • Embedding server



1、本地部署 mudler/LocalAI也支持Rerank 模型： LocalAI是一个自托管、社区驱动、本地OpenAI兼容的API，可以在具有消费级硬件的CPU上运行。它使您能够在本地或本地运行模型，而无需互联网连接或外部服务器。使用/v1/models端点列出可用模型，或者使用/v1/completions端点生成文本完成

Dify应用实践_github_02

2、