如何配置Ollama服务对外提供服务手把手配置Ollama外部访问：2025版Windows/Linux双系统教程+故障排查大全

朴拙数据交易猿

已于 2025-03-19 17:49:49 修改

阅读量2.5k

点赞数 1

文章标签： python

于 2025-02-12 16:07:44 首次发布

本文链接：https://blog.csdn.net/weixin_45934622/article/details/145501482

版权

在这里插入图片描述

以下是分Windows和Linux版本的Ollama服务对外配置指南：

逐步说明：如何配置Ollama服务对外提供服务（Windows/Linux双版本）

1. 修改Ollama配置文件

Windows

配置文件路径：
C:\Users\<你的用户名>\.ollama\config.json
（直接在文件资源管理器地址栏输入路径，需开启显示隐藏文件）

用记事本或VS Code打开文件，修改host字段：

{
    "host": "0.0.0.0",  // 允许外部访问
    "port": 11434       // 默认端口（可选）
}

Linux

配置文件路径：
~/.ollama/config.json
（终端中输入 nano ~/.ollama/config.json 编辑）

修改host字段：

{
    "host": "0.0.0.0",  // 允许外部访问
    "port": 11434       // 默认端口（可选）
}

2. 设置访问来源（可选）

所有系统

若要限制访问来源（例如仅允许特定IP/域名）：

{
    "host": "0.0.0.0",
    "origins": ["http://your-domain.com", "https://192.168.1.100"]
}

完全开放（不推荐生产环境）：
```
"origins": "*"
```

3. 配置防火墙

Windows

方法1：图形界面
1. 打开“控制面板” > “Windows Defender 防火墙” > “高级设置”
2. 新建入站规则：允许TCP端口 11434

方法2：PowerShell（管理员）

New-NetFirewallRule -DisplayName "Ollama" -Direction Inbound -Protocol TCP -LocalPort 11434 -Action Allow

Linux

使用ufw（推荐Ubuntu/Debian）

sudo ufw allow 11434/tcp
sudo ufw reload

使用iptables（通用）

sudo iptables -A INPUT -p tcp --dport 11434 -j ACCEPT
sudo service iptables save  # CentOS/RedHat
sudo systemctl restart iptables

3. 配置防火墙

在这里插入图片描述

4. 重启Ollama服务

Windows

结束进程：
- 任务管理器关闭所有ollama相关进程
- 或使用PowerShell：
```
Stop-Process -Name "ollama" -Force
```

重启服务：

Start-Process "ollama" -ArgumentList "serve"

Linux

结束进程：
```
pkill ollama
```
重启服务：
```
ollama serve &
```

5. 测试外部访问

所有系统

从外部设备访问：
- 浏览器或终端输入：http://<服务器IP>:11434
- 使用curl测试：
```
curl http://<服务器IP>:11434/api/tags  # 应返回模型列表
```

常见问题

Windows

文件夹不存在？
运行一次 ollama run llama2 自动生成配置目录。
端口被占用？
修改config.json中的port字段，并同步调整防火墙规则。

Linux

权限问题？
使用 sudo 运行命令，或确保用户对 ~/.ollama 有读写权限。

通过以上步骤，您的Ollama服务已支持外部访问。建议生产环境启用origins限制和HTTPS加密。

2025年03月19补充：如果没有.ollama文件夹和 `config.json` 文件怎么办

要找到 .ollama 文件夹和 config.json 文件，请根据你的操作系统按照以下步骤操作：

1. 确认操作系统和默认路径

Linux/macOS：
- .ollama 文件夹通常位于用户主目录下（如 ~/.ollama）。
- 终端中输入：
```
ls -a ~/.ollama
```
  如果提示不存在，可能是首次运行未生成。
Windows：
- .ollama 文件夹通常位于：
  - C:\Users\<你的用户名>\.ollama（直接输入路径到文件资源管理器地址栏）
  - 或 %USERPROFILE%\.ollama（环境变量路径）。
- 确保显示隐藏文件和文件夹（设置 > 查看 > 勾选“隐藏的项目”）。

2. 如果文件夹不存在

首次运行Ollama：
- 执行一次Ollama命令（如 ollama run llama2），程序会自动生成配置目录和默认文件。
- 完成后再次检查上述路径。

3. 手动创建配置文件（可选）

如果Ollama未自动生成 config.json，可手动创建：

# Linux/macOS
mkdir -p ~/.ollama
touch ~/.ollama/config.json

# Windows（在PowerShell中）
New-Item -Path "$env:USERPROFILE\.ollama" -ItemType Directory
New-Item -Path "$env:USERPROFILE\.ollama\config.json" -ItemType File