在 Windows 上配置 Ollama 服务并开放局域网访问的完整指南
随着 AI 模型和服务的普及,许多开发者在本地机器上搭建服务以便进行实验或开发工作。Ollama 是一个流行的本地 AI 服务工具,但默认情况下它只能在本地访问。如果想要在局域网中共享 Ollama 服务,你需要配置防火墙以开放对应的端口。本文将详细介绍如何在 Windows 上配置 Ollama 并通过防火墙设置共享服务。
1. Ollama 简介
Ollama 是一个用于部署本地 AI 模型的工具,开发者可以在自己的机器上运行模型,并通过 API 接口调用。在本地搭建 Ollama 服务后,默认只允许本地访问,而局域网中的其他设备无法直接访问该服务。
为了在局域网内共享 Ollama 服务,我们需要完成以下两步:
- 设置 Ollama 的环境变量
OLLAMA_HOST
,使其监听局域网的 IP 地址。 - 在 Windows 防火墙中开放 Ollama 服务使用的端口(如 11434)。
2. 配置 Ollama 服务的监听地址
Ollama 服务使用环境变量 OLLAMA_HOST
来指定监听的地址,默认情况下,它只监听 localhost
,即只能本地访问。如果要让局域网内其他设备访问 Ollama 服务,需要将 OLLAMA_HOST
设为 0.0.0.0
。
设置环境变量
在 Windows 中,可以通过以下步骤来设置环境变量 OLLAMA_HOST
:
-
打开系统属性:
- 右键点击 此电脑 或 计算机,选择 属性。
- 在左侧点击 高级系统设置。
-
环境变量:
- 在弹出的窗口中,点击 环境变量。
-
新建系统环境变量:
- 在 系统变量 部分,点击 新建。
- 在 变量名 输入框中,输入
OLLAMA_HOST
。 - 在 变量值 输入框中,输入
0.0.0.0
,然后点击 确定。
-
重启命令行窗口:
设置完成后,确保关闭并重新打开命令行窗口,使新的环境变量生效。
完成后,Ollama 服务将在所有网络接口上监听,包括局域网。
3. 使用 Windows 防火墙开放端口
为了使其他设备能够访问 Ollama 服务,我们需要在 Windows 防火墙中开放 Ollama 服务运行的端口(例如 11434)。你可以选择通过图形界面操作,或者更快捷地通过命令行操作来完成设置。
方法一:使用 Windows 防火墙图形界面
- 打开 控制面板,搜索并选择 Windows Defender 防火墙。
- 在左侧点击 高级设置,进入高级防火墙设置页面。
- 在左侧菜单中,点击 入站规则,然后在右侧点击 新建规则。
- 选择 端口 作为规则类型,然后点击 下一步。
- 选择 TCP,并在 特定本地端口 一栏中输入
11434
,然后点击 下一步。 - 选择 允许连接,点击 下一步。
- 根据需求选择应用的网络类型(域、专用或公用),点击 下一步。
- 为这条规则命名(如 “Allow Ollama Port 11434”),然后点击 完成。
方法二:使用命令行快速开放端口
如果你更习惯使用命令行,可以通过以下步骤快速开放端口。
-
打开 命令提示符(以管理员身份运行),使用以下命令为 Ollama 服务开放 11434 端口(TCP 协议):
netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434
如果 Ollama 使用的是 UDP 协议,可以将命令中的
TCP
改为UDP
:netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434
-
你可以通过以下命令确认规则是否正确添加:
netsh advfirewall firewall show rule name="Allow Port 11434"
4. 测试 Ollama 服务是否在局域网中可访问
完成上述设置后,Ollama 服务应该可以通过局域网中的其他设备访问。你可以通过局域网中的另一台设备,在浏览器中输入以下地址进行测试:
http://<你的本机IP地址>:11434
例如,如果你的本机 IP 地址是 192.168.1.100
,则在局域网中其他设备的浏览器中输入:
http://192.168.1.100:11434
如果服务成功启动,页面应显示 Ollama API 的相关信息,表明你的服务已经能够在局域网中正常访问。
5. 总结
通过以上步骤,你可以轻松地在 Windows 上配置 Ollama 服务并允许其他局域网设备访问该服务。具体操作包括:
- 配置环境变量
OLLAMA_HOST
,使 Ollama 服务监听局域网中的请求。 - 在 Windows 防火墙中开放相应端口。
这一过程简单且高效,能够帮助你快速地将本地 AI 服务共享给局域网中的其他设备,实现更广泛的应用场景。