deepseek-coder-v2模型,连接 Ollama API 失败

报错截图及现象如下:

1、现象

问题回答到一半突然中断

2、出错截图

从出错截图中能够发现两个问题,1、问题能够回答但是突然中断,说明ollama服务能够运行,服务没有问题,但是不明原因导致突然中断。2、每次服务连接的端口不同。

考虑是服务在调用端口的过程中被防火墙中断,退出360防火墙,卸载360防火墙,问题依旧。这个问题很不稳定,有时候会好用,有时候就会突然中断。

试过了几乎所有的手段,删除之后重新拉v2模型,在命令行中执行v2模型,netstat -an | "报错端口号"  在出错5分钟之内会出现端口被占用的情况,但是5分钟之后这种占用被自动解除,这个问题很奇怪占用测试端口的另外一个端口不是报错提示中的两个端口号的任何一个,开放win11所有端口,在win11的防火墙中加入ollama的白名单,开放所有win11防火墙的出入站规则。全部失效。最终结论猜测应该是chatbox和cmd终端的API与deepseek-coder-v2大模型在兼容性上存在问题。

最后换成vscode集成deepseek-coder-v2,测试了一段时间之后,没有出现上面的问题。

还没有测试pycharm,估计在pycharm中也应该是没有问题的。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

wolfalcon

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值