docker安装Open WebUI详解-遇到的坑OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file

坚定信念，勇往无前

已于 2024-11-04 06:35:04 修改

阅读量2.4w

点赞数 16

分类专栏： AI 文章标签： docker 容器运维

于 2024-11-02 08:12:21 首次发布

本文链接：https://blog.csdn.net/g470641382/article/details/143444929

版权

AI 专栏收录该内容

9 篇文章

订阅专栏

一、Open WebUI简介

Open WebUI（https://openwebui.com）是一个用户友好的Web界面，专为本地大语言模型（LLMs）设计。它支持多种模型，包括Ollama和OpenAI兼容的API，并允许用户通过图形界面轻松调试和调用模型。Open WebUI的功能丰富，包括代码高亮、数学公式支持、网页浏览、预设提示词、本地RAG集成、对话标记、模型下载、聊天记录查看以及语音支持等。

二、环境准备

1. 硬件要求

GPU服务器：由于大模型运算量大，推荐使用配备高性能GPU的服务器。
内存与存储：确保服务器有足够的内存和存储空间以支持模型运行和数据存储。

2. 软件环境

操作系统：支持Linux、Windows等多种操作系统，但Linux环境通常更为稳定。
Docker：Open WebUI通过Docker进行部署，因此需要在服务器上安装Docker。
Node.js（可选）：如果需要在本地进行Open WebUI的二次开发，需要安装Node.js。

三、Docker部署Open WebUI

1. 拉取Open WebUI镜像

由于国内网络环境，建议从国内镜像源拉取Open WebUI镜像，以提高下载速度。可以使用如下命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v C:\ollama-web-ui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

注意：C:\ollama-web-ui应替换为实际挂载存储Open WebUI数据的目录路径。

问题：运行了上面的命令还是不能正常访问。看了日志才知道(OSError: We couldn't connect to 'https://huggingface.co' to load this file)，原来是open-webui启动时期需要首先在线安装transformers库，但是huggingface.co对于国内来说是经常不可访问):

　　于是赶紧求助bing，找到一个镜像网站，"hf-mirror.com"，于是给docker启动命令中增加一个环境变量"HF_ENDPOINT"，经测试完美解决了。后来又想到开始虽然运行镜像启动成功了，但是启动特别慢，2、3分钟服务才能访问，看来也是需要访问huggingface网站的原因。

　　注意这里设置环境变量HF_ENDPOINT，必须设置为”https://hf-mirror.com“，否则依然会报错，大概是说未知的scheme，我已经趟过这个坑了。完整的命令行如下：

docker run -d -e HF_ENDPOINT=https://hf-mirror.com -p 3000:8080 --add-host=host.docker.internal:host-gateway -v C:\ollama-web-ui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main