异常处理
1、OllamaAi设置外网访问
Ollama在linux环境中如何支持外部或者宿主机通过IP访问其接口
1、首先停止ollama服务:systemctl stop ollama
2、修改ollama的service文件:/etc/systemd/system/ollama.service
在[Service]下边增加一行:Environment=“OLLAMA_HOST=0.0.0.0:8080”,端口根据实际情况修改
3、重载daemon文件 systemctl daemon-reload
4、启动ollama服务 systemctl start ollama
Ollama在windows环境中如何支持通过IP来访问接口
1、首先停止ollama服务的允许。由于windows下安装的ollama不是一个标准的windows service,所以只能直接杀掉两个ollama进程。
2、为当前windows系统添加环境变量:电脑-属性-高级系统设置-环境变量
变量:OLLAMA_HOST,值:0.0.0.0:11434
3、关掉已打开的命令行窗口,打开新命令行,用ollama serve或者ollama start来启动ollama服务,此时ollama服务在启动时将读取环境变量中的OLLAMA_HOST,支持IP端口访问
2、通过Ollama 启动模型后,只能本地访问的问题
1.服务器的防火墙是否开启
2.检查云服务器的安全组,是否放行
3.ollama通过设置环境变量,来设置允许外网访问
export OLLAMA_HOST=0.0.0.0:11434
3、异常:Error: could not connect to ollama app, is it running?
systemctl status ollama
针对这种情况 (https://github.com/ollama/ollama/issues/2928给出了答案),简单说就是由于我们修改了端口号会导致ollama list、ollama ps 等命令无法执行,只能执行ollama --version.我们带着端口号去访问即可
OLLAMA_HOST=127.0.0.1:9090 ollama list
OLLAMA_HOST=127.0.0.1:9090 ollama ps
4、可以通过其他同网段局域网进行浏览器访问“http://xxxxxxxx:9090”,会返回如下
5、截止目前成功部署,可能会很慢,那么就是服务器问题