最简单的在windows上布署ollama\openwebui本地大模型的方法(联网)

一、安装docker-destop for Windows

下载docker for windows并安装

Docker Desktop: The #1 Containerization Tool for Developers | Docker

二、更改docker镜像的默认目录

打开docker-destop的设置，在Resources项Disk image location处更改。

三、打开windows的powershell运行命令

[更多信息参考open-webui官方文档](GitHub - open-webui/open-webui: User-friendly WebUI for LLMs (Formerly Ollama WebUI))

打开windows的powershell运行命令

1. 如果有独显

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

1. 如果无独显

docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

注意：没有独显却装错了版本会导致运行不了

四、安装AI模型

1. 打开open-webui

打开docker-desktop，在containers里找到open-webui的镜像，如下图，点红线标记处浏览器会打开本地open-webui。这里距上步操作时间不要太短，因为open-webui启动时间。

1. 注册并登录open-webui。

2. 鼠标单击头像，点击setting，选择models。

3. Pull a model from Ollama.com项以下截大模型（输入如：qwen:7b）。

4. 如果不知道大模型名字，可以点click here.。

5. 可以选择AI模并使用了。