Dify - 整合Ollama + Xinference私有化部署Dify平台（01）Ubuntu 20.04上安装Docker

---

总体方案

• ollama 和 Xinference 管理模型，需要充分利用GPU， 故这里不选择使用Docker安装。

• Dify 使用Docker安装

---

服务器

幕僚云按需租几台服务器

选择合适的镜像：机器学习框架镜像

开启学术加速代理

目前机器学习框架镜像默认集成学术加速，需要手动开启学术加速代理

请在终端中使用以下命令开启学术加速。

source /etc/network_turbo

备注：如果network_turbo文件不存在，北京一区、北京二区、北京三区等使用此命令设置相关代理

export http_proxy=http://10.132.19.35:7890

export https_proxy=http://10.132.19.35:7890

---

在Ubuntu 20.04上安装Docker

在Ubuntu 20.04上安装Docker可以通过以下步骤完成：

更新软件包索引

打开终端并执行命令以确保你的软件包索引是最新的。

sudo apt-get update

安装一些必要的软件包，以便apt能够通过HTTPS使用仓库：

sudo apt-get install apt-transport-https ca-certificates curl software-properties-common

sudo install -m 0755 -d /etc/apt/keyrings

添加Docker的官方GPG密钥

这一步是为了确保你从Docker下载的软件是安全可靠的。

curl -fsSL https://download.docker.com/linux/ubuntu/gpg  -o /etc/apt/keyrings/docker.asc

sudo chmod a+r  /etc/apt/keyrings/docker.asc

如果网络存在问题，可以使用如下方式 ， 浏览器访问 https://download.docker.com/linux/ubuntu/gpg 下载该文件,传到服务器上/etc/apt/keyrings/，修改名为 docker.asc

设置稳定的仓库

添加Docker的APT仓库到你的系统中。

echo \
"deb [arch=$(dpkg --print-architecture)  signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

再次更新软件包索引

因为刚添加了一个新的仓库，所以需要再次更新软件包索引。

sudo apt-get update

从新添加的仓库中安装Docker CE

现在你可以安装最新的Docker版本了。

sudo apt-get   install docker-ce docker-ce-cli containerd.io 

验证Docker是否安装成功

安装完成后，运行下面的命令来确认Docker已经正确安装并且可以正常工作。

sudo docker --version


sudo systemctl start docker 
sudo systemctl status docker 

（可选）修改docker的数据目录

默认docker的镜像和容器存储都在/var/lib/docker目录下，如果系统盘空间较小，建议将docker数据目录调整到其他可用空间更大的目，避免系统盘空间不足。