前提环境:win10.
第一步
环境变量,具体配置如下:
变量名:OLLAMA_HOST
变量值::11434
原因:出现这个问题,一般是因为我们的RAG搭建在容器里面,如果没有做端口穿透的话,RAG就会尝试访问容器内的11434端口,从而造成访问失败。(以上为引用别人的方法)
https://community.modelscope.cn/67402ed32db35d11950fd558.html
第二步(关键)
在RAG网页添加LLM处注意
1.模型名称一定要对
2.基础url不能使用127.0.0.1,要通过ipconfig找到自己的IPv4 地址,进行修改