Linux配置Ollama+Open-WebUI时，HuggingFace访问失败问题

最新推荐文章于 2025-03-03 07:30:00 发布
最新推荐文章于 2025-03-03 07:30:00 发布
阅读量893 收藏 1
点赞数 3
文章标签： 1024程序员节 linux 服务器
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_51609751/article/details/143213487
版权

 安装Open-WebUI

#1.拉取到指定目录（自定义路径##/##）
cd ##/##
git clone https://gitee.com/pandaworker/open-webui.git
cd open-webui
cp -RPp .env.example .env

#2.安装前端依赖
npm i
npm run build

#3.安装后端依赖
cd backend
pip install -r requirements.txt

#4.启动后端
bash start.sh

执行 bash start.sh 命令时会遇到 HuggingFace 访问失败问题，运行以下代码将 HuggingFace 官网地址更换为镜像地址，再次执行 bash start.sh 命令可以解决此问题。

export HF_ENDPOINT="http: //hf-mirror.com"

huggingface连接不上的解决方案(持续更新)
herosunly的博客
09-20 11万+
本文主要介绍了huggingface连接不上的解决方案，希望能对学习大模型的同学们有所帮助。 文章目录 1. 背景 2. 解决方案 2.1 解决方案一 2.1.1 第一步 2.1.2 第二步 2.1.3 第三步 2.1.4 可选步骤 2.2 解决方案二
ollama集成open-webui本地部署大模型应用
program哲学
04-26 8541
详细介绍如何利用ollama集成open-webui本地部署大模型应用
离线部署大模型：ollama+deepseek+open-webui
呱牛 Just do IT
02-20 1655
ollama 是一个开源的本地大语言模型运行框架，它提供了非常简单便捷的使用形式，让用户可以十分方便的在本地机器上部署和运行大型语言模型，从而实现免费离线的方式使用 LLM 能力，并确保私有数据的隐私和安全性。
openwebui二改界面环境搭建
盛世芳华
11-14 1万+
后端首次执行时，会去huggingface下载模型，网络原因，需要梯子。
open-webui报错Connection to huggingface.co timed out.
skywalk8163的专栏
02-03 4525
总结：huggingface不能用，直接设置镜像： HF_ENDPOINT=https://hf-mirror.com 缘起 随着大家纷纷复工，一些网站又恢复了以前不能用的状态，比如open-webui前几天还能用，现在就报错： File "E:\py311\Lib\site-packages\urllib3\util\retry.py", line 519, in increment raise MaxRetryError(_pool, url, reason) from reason #
docker安装Open WebUI详解-遇到的坑OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file
g470641382的博客
11-02 2万+
docker安装Open WebUI详解-遇到的坑 OSError: We couldn't connect to 'https://huggingface.co' to load this file
openwebui通过Docker运行报错OSError: We couldn‘t connect to ‘https://huggingface.co‘ to load this file
盛世芳华
11-13 1042
运行后就会发现在data目录下有“models--sentence-transformers--all-MiniLM-L6-v2”，这就是联网下载下来的模型，下次可以整体拷贝整个data目录到docker-compose.yml放在一起，不挂代理也能正常访问了。docker运行openwebui报错OSError: We couldn't connect to '
解决Huggingface无法访问
Autumn_horse的博客
11-09 3766
如下网站无法访问。
关于ollama+open webui无法局域网访问的解决办法
HarryXYC的博客
07-29 1万+
ollama api本地默认地址：http://127.0.0.1:11434open webui的默认地址：http://127.0.0.1:3000如果是本机访问，ollama默认允许本机跨域访问（哈里是看ollama的日志都是OPTIONS请求，bing后发现的），官方文档说修改系统变量OLLAMA_ORIGINS即可解决非本机跨域问题（windows下）。但是没说怎么改，还好随便试了下通配符“*”就行了。
ollama+open-webui，本地部署自己的大模型
web15085096641的博客
12-10 1万+
Open WebUI 是一种可扩展、功能丰富且用户友好的自托管 WebUI，旨在完全离线运行。它支持各种LLM运行器，包括 Ollama 和 OpenAI 兼容的 API。open-webui项目地址。
DeepSeek R1 + Open-Webui 部署实战
qq_41649973的博客
03-03 961
DeepSeek R1 + Open-Webui部署实战
【LLM】在PAI-DSW上使用 vLLM + Open-WebUI 部署Qwen2.5
DaveBraid的博客
09-23 5139
最近在玩LLM，听闻PAI-DSW有三个月免费试用，试了一下感觉还不错，就是有一些学习成本。刚通过vllm+open-webui成功部署了Qwen2.5-7B-Instruct，也是摸索了一段时间，记录一下以便需要使用同样方案的朋友们节省时间，迅速上手。简便起见，本文所有安装均使用pip工具，不使用docker。
为Ollama添加自定义（huggingface）模型时遇到的报错
yulixixi的博客
12-23 1886
下面写一写在为ollama添加自定义模型的时候遇到的报错及可能的原因，希望可以提供一些帮助。
连接hugging_face失败的一种可能解决方案
pc的博客
11-20 4136
服务器上已经翻墙了，但是仍报一些ssl的错无法login hugging_face,最后如下这样操作就好了。这样就可以连接上hugging_face 了！
想快速启动大语言模型推理模型？5 步教你解锁 Hugging Face HUGS 的一键部署
了解关于云主机、GPU、AI、数据库托管、Kubernetes等相关技术知识，以及DigitalOcean云平台使用教程
11-05 2671
让部署和管理大语言模型（LLMs）变得更加简单和快捷。现在，借助 DigitalOcean 免费的一键部署功能，你可以在上轻松设置、扩展和优化 LLMs，这些 Droplet （DigitalOcean 的云主机）专门针对高性能业务场景进行了优化。本文将一步步带领你完成在 DigitalOcean GPU Droplet 上部署 HUGS 并集成 Open WebUI 的步骤，过程只需要 5 步，完成后你就能理解为什么说一键部署可以让 LLM 推理模型的使用更流畅、可扩展。
open-webui安装部署
风之飘渺
09-15 4115
这个项目不仅提供了一个直观的界面，还支持多种功能，包括代码高亮、数学公式输入、网页浏览、预设提示词、本地RAG集成、对话标记、下载模型、聊天记录以及语音支持等。Open WebUI的设计受到了ChatGPT的启发，旨在确保用户获得友好易用的体验，无论是在桌面电脑还是移动设备上，都能享受一致而流畅的用户体验。虽然官网也给了其它的不同条件的指令，但你要知道人家是不考虑你在中国的这个X因素的。下面的指令是不带有GPU的指令。依次运行下面的指令，安装这个环境，相信初始安装的朋友都没有安装过这个。
Stable Diffusion Webui在Linux服务器第一次运行不能连接huggingface
weixin_53626425的博客
10-25 2661
由于网络原因, hugging face在国内无法访问, 所以出现了该错误, 笔者所使用的Linux服务器不能使用非常的上网手段, 通过在本地windows运行stable-diffusion-webui并进行排查, 找到了问题所在。Linux服务器的~/.cache/huggingface/hub/目录下需models--openai--clip-vit-large-patch14文件夹, 从本地下载该文件夹, 然后上传到服务器相应目录下即可解决。不能访问hugging face可以直接使用该链接。
Open WebUI – 本地化部署大模型仿照 ChatGPT用户界面
热门推荐
weixin_42458975的博客
06-21 3万+
Open WebUI 是一个仿照 ChatGPT 界面，为本地大语言模型提供图形化界面的开源项目，可以非常方便的调试、调用本地模型。你能用它连接你在本地的大语言模型（包括 Ollama 和 OpenAI 兼容的 API），也支持远程服务器。本文给出了具体操作实践，给出了遇到的问题及解决方案。
ollama同类框架
最新发布
03-19
<think>好的，用户想了解类似于Ollama的同类框架。首先，我需要确认Ollama是什么。根据之前的知识，Ollama是一个用于本地运行大型语言模型（LLM）的开源工具，支持多种模型如Llama 2、Mistral等，提供命令行界面和API，方便开发者在本地部署和管理模型。接下来，我需要找出与Ollama功能相似的框架，可能包括模型部署、本地运行、API支持等特点。 首先想到的是Llama.cpp，它专注于在CPU上高效运行Llama模型，支持多种量化方法，适合资源有限的环境。然后是Hugging Face的Transformers库，虽然更广泛，但提供了本地运行模型的能力，支持多种框架如PyTorch和TensorFlow。Text Generation WebUI可能也是一个候选，它提供了基于Web的界面，方便用户交互。 接着考虑其他可能的框架，比如LM Studio，它提供图形界面，适合非技术用户。GPT4All也是一个选项，专注于本地运行且无需GPU。还有vLLM，虽然主要用于生产环境的高效推理，但可能与Ollama有部分重叠。FastChat和LocalAI可能也是相关的，后者兼容OpenAI API，适合需要兼容性的项目。 需要验证这些框架是否确实属于同类，比如检查它们是否支持本地运行、是否开源、是否有API或命令行工具等。同时，用户可能需要比较这些工具的特点，比如性能、易用性、支持的模型等，以便选择最适合的。 还要注意用户可能的深层需求，比如是否关注资源消耗、是否需要图形界面、是否希望与现有系统集成等。因此，在回答中应该分点介绍每个框架，并突出它们的特点和适用场景，帮助用户做出决策。确保使用正确的中文术语，结构清晰，信息准确可靠。</think>以下是一些与 **Ollama** 功能类似的框架或工具，它们均支持本地部署和运行大型语言模型（LLMs），适合开发者和研究人员使用： --- ### 1. **Llama.cpp** - **特点**：专为 Meta 的 **Llama** 系列模型优化的 C/C++ 实现，支持 CPU 推理，量化模型以降低资源消耗。 - **适用场景**：资源受限环境（如无 GPU 的机器）、需要轻量级部署。 - **优势**：高效、跨平台、支持多种量化格式（如 GGUF）。 - **项目地址**: [ggerganov/llama.cpp](https://github.com/ggerganov/llama.cpp) --- ### 2. **Hugging Face Transformers** - **特点**：提供广泛的预训练模型库（如 GPT、BERT、T5），支持 PyTorch、TensorFlow 等框架。 - **适用场景**：需要灵活定制模型架构、微调或研究用途。 - **优势**：社区活跃、文档完善、支持本地部署和 API 扩展。 - **项目地址**: [huggingface/transformers](https://github.com/huggingface/transformers) --- ### 3. **Text Generation WebUI** - **特点**：基于 Web 的交互界面，支持多种模型后端（包括 Ollama、Llama.cpp 等），提供聊天、模型管理功能。 - **适用场景**：快速测试模型、非开发者友好。 - **优势**：图形化操作、插件扩展（如语音交互、RAG）。 - **项目地址**: [oobabooga/text-generation-webui](https://github.com/oobabooga/text-generation-webui) --- ### 4. **LM Studio** - **特点**：桌面端工具，支持本地运行开源模型（如 Mistral、Llama），提供图形界面和模型市场。 - **适用场景**：个人用户、无需代码操作。 - **优势**：易用性高、跨平台（macOS/Windows/Linux）。 - **官网**: [lmstudio.ai](https://lmstudio.ai/) --- ### 5. **GPT4All** - **特点**：专注于本地运行的轻量化工具，提供 Python 绑定和 GUI，支持多模态模型。 - **适用场景**：隐私敏感场景、离线使用。 - **优势**：无需 GPU、低资源消耗。 - **项目地址**: [nomic-ai/gpt4all](https://github.com/nomic-ai/gpt4all) --- ### 6. **vLLM** - **特点**：高性能推理框架，支持并行化和分布式部署，兼容 Hugging Face 模型。 - **适用场景**：生产环境、高吞吐量需求。 - **优势**：推理速度快、支持连续批处理（Continuous Batching）。 - **项目地址**: [vllm-project/vllm](https://github.com/vllm-project/vllm) --- ### 7. **LocalAI** - **特点**：兼容 OpenAI API 的开源替代品，支持本地部署多种模型（如 Llama、StableLM）。 - **适用场景**：需要与 OpenAI 生态兼容的项目。 - **优势**：API 兼容性强、支持多模态（文本/图像/音频）。 - **项目地址**: [go-skynet/LocalAI](https://github.com/go-skynet/LocalAI) --- ### 8. **FastChat** - **特点**：基于 Vicuna 模型的训练和部署工具，支持 Web UI 和 API。 - **适用场景**：构建自定义聊天机器人、学术研究。 - **优势**：支持模型训练与评估、多后端兼容。 - **项目地址**: [lm-sys/FastChat](https://github.com/lm-sys/FastChat) --- ### 对比总结 | **框架** | **核心优势** | **适用场景** | |-----------------------|---------------------------|--------------------------| | Ollama | 简单易用、模型管理便捷 | 快速本地测试、开发者工具链 | | Llama.cpp | 极致性能、CPU 优化 | 低资源环境、嵌入式设备 | | Hugging Face | 模型多样性、灵活性高 | 研究与定制化开发 | | Text Generation WebUI | 图形化界面、插件丰富 | 非技术用户、快速原型开发 | | LocalAI | OpenAI API 兼容性 | 企业级替代方案、无缝迁移 | --- 可根据需求选择工具： - **优先易用性** → 尝试 **LM Studio** 或 **Ollama** - **需要 API 兼容性** → 选择 **LocalAI** - **追求高性能推理** → 使用 **vLLM** 或 **Llama.cpp**
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值