第二十六篇-Ollama-监听本地IP与端口

修改ollama配置使其可以监听0.0.0.0和修改端口,可以外网访问

修改文件

vim /etc/systemd/system/ollama.service

增加

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

重现加载

sudo systemctl daemon-reload
sudo systemctl restart ollama

sudo systemctl status ollama

查看日志

journalctl -u ollama.service

open-api

这样可以通过外网访问

curl http://192.168.31.11:11434/api/chat -d '{
  "model": "qwen:0.5b-chat-v1.5-q4_K_M",
  "messages": [
    { "role": "user", "content": "介绍一下北京景点?" }
  ],
  "stream": false
}'

第二十四篇-Ollama-在线安装
第二十五篇-Ollama-离线安装
第二十六篇-Ollama-监听本地IP与端口
第二十七篇-Ollama-加载本地模型文件
第二十八篇-Ollama-TeslaP40-Ollama-8B-Qwen1.5-32B等速度
第三十篇-Ollama-TeslaP40-Ollama-Qwen2-57B等速度

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值