使用Ollama+Open WebUI在windows电脑本地运行大模型

安装ollama

打开ollama官网Ollama下载windows版本的ollama正常根据提示安装就行

如何更改ollama模型下载路径

如果想要将ollama下载的大模型放到其他地方的话就要在安装之前先添加环境变量再进行安装

在系统环境变量中新建ollama环境变量：

变量名不可更改，必须是OLLAMA_MODELS，变量值是你实际放置大模型的路径

下载适合自己的模型

到ollama官网复制模型下载口令到终端回车就行了，目前中文最好的模型是qwen2，自己电脑配置好一点就可以下载大一点的模型，ollama模型下载的默认路径是：

C:\Users\用户名\.ollama\models

安装Docker

这个方案还需要安装一个Docker容器:

https://www.docker.com/

这可能要”梯子“才能访问下载，或者网上找一下快速获取方法。

Docker安装完成后在系统变量中添加Docker的环境变量：

C:\Program Files\Docker\Docker\resources\bin

下载Open-WebUI

Open-WebUI安装方法请参考文档🏡 Home | Open WebUI或者Docker安装完成后打开电脑终端(cmd)输入以下指令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

输入以上指令后会等待比较久，等待结束后会自动打开一个本地连接
如果没有自动打开，就把Docker打开，点击3000:8080就会自动跳转到WebUI界面

点击后就来到了我们比较熟悉的界面了我们第一个注册的账号默认就是管理员账号，界面图如下：

注册登录

随便填个邮箱就行了如下图：

下面就是模型选择和中文设置了