1、镜像下载
使用用国外的镜像下载会很慢可以换用国内的。
运行docker命令:docker pull ghcr.nju.edu.cn/open-webui/open-webui:main
2、运行open webui docker容器
OLLAMA_BASE_URL 指定你的私有化大模型的地址,完整的docker命令如下:
docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://127.0.0.1:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
注意:OLLAMA_BASE_URL地址要根据你的实际情况进行配置
3、前端访问
在浏览器中输入地埋:http://x.x.x.x:3000访问open webui,x.x.x.x代表你配置的webui主机地址。
第一次访问会要求你注册一个管理员用户,输入用户名、邮箱、密码就可进行Open WebUi界面,在左侧选择ollama提供的大模型
就可以开始正常使用了。
遇到一个问题就是访问open webUi时速度比较慢,不知道应该怎么解决。