Ollama 开放 局域网访问 外网访问 mac

目录

问题描述

搜索尝试

最终方案

问题描述

我们在本地安装Ollama模型后通过127.0.0.1:11434访问正常返回

但是无法通过局域网IP访问如: http://192.168.1.158:11434

搜索尝试

搜索发现需要添加环境变量 OLLAMA_HOST 才能开放外网访问

export OLLAMA_HOST=0.0.0.0:11434

然而我在 /etc/profile 和 ~/.zshrc 中均添加了此变量

退出:

启动:

但依然无效。

但是通过命令行执行命令 ollama serve 启动后, http://192.168.1.158:11434 可成功访问。

问题已经很明显了

所以如何设置 LaunchService 的环境变量呢?

launchctl setenv OLLAMA_HOST "0.0.0.0"

最终方案

1. 修改 /etc/profile 文件添加环境变量

sudo sh -c 'echo "export OLLAMA_HOST=0.0.0.0:11434" >> /etc/profile'

2. 执行 launchctl 命令添加环境变量

launchctl setenv OLLAMA_HOST "0.0.0.0:11434"

这样不论是命令行 ollama serve 启动,还是双击ollama应用图标启动,都可以外网访问。

注意:

0.0.0.0 表示就收任何来源的访问,如果觉得太危险可以直接指定允许访问的电脑IP,如:

launchctl setenv OLLAMA_HOST "192.168.1.158:11434"

或者是

launchctl setenv OLLAMA_HOST "dev.ollama:11434"

而后设置host:

192.168.1.158 dev.ollama

最后通过自定义的域名访问:

### 配置 Ollama 以允许局域网内设备访问 为了使局域网中的其他设备能够访问 Ollama 服务,需确保服务器端口对外开放并可被网络内的客户端触及。通常情况下,默认安装可能仅限于本地主机 (localhost) 访问。 #### 修改绑定地址 默认设置下,Ollama 可能会监听 `127.0.0.1` 或者 `[::1]`,这表示只接受来自同一台机器上的连接请求。要让其它计算机也能连上,应该更改配置文件或启动参数来指定一个更广泛的IP范围比如 `0.0.0.0` ,这样就可以接收到来自任何接口的入站流量[^1]. 对于大多数Linux发行版而言,在命令行界面通过如下方式启动ollama服务可以实现上述目的: ```bash sudo ollama start --listen=0.0.0.0:8080 ``` 这条指令会让Ollama监听所有可用网络接口上的8080端口[^1]. #### 调整防火墙规则 如果操作系统启用了防火墙,则还需要开放相应的TCP端口号以便外部通信。假设之前选择了8080作为HTTP的服务端口,那么就需要添加一条新的防火墙规则允许该端口的数据包传入: 在基于RedHat/CentOS/Fedora系统的环境中执行以下命令: ```bash sudo firewall-cmd --add-port=8080/tcp --permanent sudo firewall-cmd --reload ``` 而在Debian/Ubuntu类系统里则应使用ufw工具完成相同操作: ```bash sudo ufw allow 8080/tcp ``` 以上措施将确保防火墙不会阻挡试图到达目标服务器8080端口的合法请求[^2]. #### 测试连接性 最后一步是在另一台位于同一路由器下的PC尝试建立到运行着Ollama应用程序那台电脑相应端口之间的联系。可以通过浏览器输入http://<Server_IP>:8080的形式来进行简单的测试;其中,<Server_IP>代表提供服务一方的真实IPv4地址[^3].
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值