OpenWebUI连接不上Ollama模型,Ubuntu24.04

这里写自定义目录标题

问题介绍

  • 操作系统 Ubuntu24.04
  • Ollama 使用默认安装方法(官网https://github.com/ollama/ollama) curl -fsSL https://ollama.com/install.sh | sh 安装在本机
  • OpenWebUI
    使用默认docker安装方法(官网教程安装https://docs.openwebui.com/) docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main 安装在docker

  • 使用 http://127.0.0.1:11434/ 访问Ollama显示Ollama is running,说明Ollama正常。

  • Ollama中安装了模型,并且可以命令行形式使用。

  • 使用http://localhost:8080/登录OpenWebUI后发现没有模型

解决方法

  1. 在OpenWebUI管理面板中,管理Ollama API连接 默认为http://host.docker.internal:11434/,这是windows中的方式,需要改为http://127.0.0.1:11434
  2. 在 访问 Ollama 时遇到问题? 点击这里获取帮助。点击导航到https://github.com/open-webui/open-webui#troubleshooting,根据教程Open WebUI: Server Connection Error
    If you’re experiencing connection issues, it’s often due to the WebUI docker container not being able to reach the Ollama server at 127.0.0.1:11434 (host.docker.internal:11434) inside the container . Use the --network=host flag in your docker command to resolve this. Note that the port changes from 3000 to 8080, resulting in the link: http://localhost:8080.
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

删除docker,并使用上面的命令重新创建docker,使用http://localhost:8080访问OpenWebUI即可。

### 配置OpenWebUIOllama集成 为了在Ubuntu系统中配置OpenWebUI并使其能够与Ollama集成,需遵循特定的步骤来确保两个组件之间的兼容性和功能性。 #### 准备工作 确认操作系统版本为Ubuntu 24.04 Desktop 或 Ubuntu 22.04 Server[^2]。这些版本提供了稳定的支持环境用于安装和运行所需的软件包和服务。 #### 安装依赖项 首先更新系统的包列表,并安装必要的依赖库: ```bash sudo apt-get update && sudo apt-get upgrade -y sudo apt-get install python3-pip git -y ``` 这一步骤确保了Python Pip以及Git的存在,它们对于后续操作至关重要[^1]。 #### 获取并设置OpenWebUI 访问官方GitHub页面获取最新的`open-webui`源码或直接利用pip命令完成自动化安装过程。推荐采用Pip方式进行快速部署: ```bash pip3 install openwebui ``` 此方法简化了安装流程,减少了手动编译带来的复杂度。 #### Ollama服务端准备 按照官方指南准备好Ollama的服务端部分,包括但限于下载对应版本的二进制文件、解压至指定路径下等前置条件。具体可参照Ollama GitHub仓库中的说明文档进行相应调整。 #### OpenWebUI配置修改 编辑OpenWebUI的相关配置文件(通常位于项目根目录下的config.yaml),添加如下内容以支持连接到本地或其他远程位置上的Ollama实例: ```yaml api_base_url: "http://localhost:8080" model_name: "qwen" ``` 这里假设Ollama正在监听本机地址并通过默认HTTP端口提供API接口;同时指定了要加载的语言模型名称为Qwen[^3]。 #### 启动应用 一切就绪之后,可以通过以下指令启动应用程序: ```bash python3 -m openwebui.server ``` 此时浏览器内输入服务器IP加开放端口号即可访问图形界面控制台,进而实现对LLM模型的有效管理和调用功能。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值