Tip:

Open WebUI、Ollama、Helm、ChromaDB、RAG、Pipelines、sentence-transformers库、

1、Open WebUI是一个可扩展的、自托管的AI界面，可适应您的工作流程，同时完全离线运行。支持各种LLM运行器，包括Ollama和OpenAI兼容的API。

  • 下面安装方法使用将Open WebUI与Ollama捆绑在一起的单个容器映像，允许通过单个命令进行简化的设置。根据您的硬件设置选择适当的命令：
docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
OLLAMA_BASE_URL环境变量：
Default: http://localhost:11434
Docker Default:
If K8S_FLAG is set: http://ollama-service.open-webui.svc.cluster.local:11434
If USE_OLLAMA_DOCKER=true: http://localhost:11434
Else http://host.docker.internal:11434
Description: Configures the Ollama backend URL.
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 7.
  • 8.
  • 使用Docker安装Open WebUI时，请确保包含-v open-webui:/app/backend/data在您的Docker命令中。此步骤至关重要，因为它确保您的数据库已正确挂载并防止任何数据丢失。
  • :dev分支包含最新的不稳定功能和更改。使用它的风险自负，因为它可能有错误或不完整的功能。
  • 要连接到另一台服务器上的Ollama，请更改OLLAMA_BASE_URL到服务器的URL：
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  • 1.

2、'Helm'部署：有关更多安装说明，请参阅 https://helm.sh/docs/intro/install/

helm repo add open-webui https://helm.openwebui.com/
helm repo update
kubectl create namespace open-webui
helm upgrade --install open-webui open-webui/open-webui --namespace open-webui
  • 1.
  • 2.
  • 3.
  • 4.

3、RAG：

  • RAG embeddings使用 ChromaDB， 是一种 AI 原生的开源向量数据库。它旨在存储向量嵌入，以便开发和构建大型语言模型应用程序。
CHROMA_DATABASE
Default: default_database
Description: Sets the database in the ChromaDB tenant to use for RAG embeddings.
  • 1.
  • 2.
  • 3.
  • 搜索： search with BM25 + ChromaDB
ENABLE_RAG_HYBRID_SEARCH
Default: False
Description: Enables the use of ensemble search with BM25 + ChromaDB, with reranking using sentence_transformers models.
  • 1.
  • 2.
  • 3.
  • 设置embedding engine
RAG_EMBEDDING_ENGINE
Options:
`` (empty for local model)
ollama
openai
Description: Selects an embedding engine to use for RAG.
  • 1.
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 设置reranking MODEL（使用 sentence-transformers 库可以轻松获取句子的向量表示，然后计算句子之间的相似度）
RAG_RERANKING_MODEL
Default: ``
Description: Sets a model for reranking results. Locally, a Sentence-Transformer model is used.
  • 1.
  • 2.
  • 3.

4、 Pipelines：UI-Agnostic OpenAI API Plugin Framework 这是一项开放WebUI计划。管道为任何支持OpenAI API规范的UI客户端带来模块化、可定制的工作流——等等！只需几行代码即可轻松扩展功能、集成独特逻辑并创建动态工作流。

docker run -d -p 9099:9099 --add-host=host.docker.internal:host-gateway -v pipelines:/app/pipelines --name pipelines --restart always ghcr.io/open-webui/pipelines:main
  • 1.
  • 为什么选择管道？
  • 无限可能性：轻松添加自定义逻辑并集成Python库，从AI agents 到 home automation APIs。
  • 无缝集成：与任何支持OpenAI API规范的UI/客户端兼容。（仅支持管道类型的管道；过滤器类型需要支持管道的客户端。）
  • 自定义挂钩：构建和集成自定义管道。
  • 实现的示例：
  • 函数调用管道：使用自定义逻辑轻松处理函数调用并增强您的应用程序。
  • 自定义RAG管道：实施根据您的需求定制的复杂检索-增强生成管道。
  • 使用LibreTranslate的实时翻译过滤器：将实时翻译无缝集成到您的LLM交互中。