江冷易水寒

模型部署完毕，在 Dify 中使用接入模型(点击头像->设置->模型供应商->Xorbits Inference)ps:由于默认端口是80，很可能与我们部署的其他服务冲突。如果您的系统安装了 Docker Compose V2 而不是 V1，请使用。当控制台域名和 Web APP 域名不一致时，可单独设置。方式一：直接使用 DockerHub 镜像。6. Dify接入Xinference。"保存" 后即可在应用中使用该模型。克隆 Dify 源代码至本地。3. 检查Dify是否成功运行。

其他问题：conda activate xinference命令好像只有第一次运行的时候需要输入这个命令，后面再启动服务的话直接输入：xinference-local --host 0.0.0.0 --port 9997命令就可以了。① 首先创建一个实例，然后安装Xinference(安装原因：用Xinference安装会自己生成API接口，但使用其他人创建好的模型或官方模型不好使，不知道原因，有知道的可以打在评论区)运行命令：conda create -n xinference python=3.10。