Docker（19.03及其以上版本）配置nvidia-docker指南

1. 安装 NVIDIA 驱动程序和 CUDA Toolkit

确保你的系统上安装了 NVIDIA GPU 驱动程序，并且版本与 Docker 期望的版本兼容。

• 运行 nvidia-smi 命令来检查 NVIDIA 驱动程序是否正确安装。

2. 安装 nvidia-container-toolkit

对于 Docker 版本 19.03 及以上，使用 nvidia-container-toolkit 替代旧的 nvidia-docker2。

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit
sudo systemctl restart docker

3. 配置 Docker daemon.json

编辑 Docker 的配置文件 daemon.json，通常位于 /etc/docker/ 目录。

{
  "default-runtime": "nvidia",
  "runtimes": {
    "nvidia": {
      "path": "nvidia-container-runtime",
      "runtimeArgs": []
    }
  }
}

4. 重启 Docker 服务

每次修改 daemon.json 后，都需要重启 Docker 服务。

sudo systemctl daemon-reload
sudo systemctl restart docker

5. 验证 Docker 配置

运行 docker info 命令，检查输出中是否有 NVIDIA GPU 支持的信息。

docker info | grep -i nvidia

注意事项

• 确保 Docker 版本支持 NVIDIA GPU（19.03 及以上）。
• 如果你的系统上没有 GPU 或者没有足够的权限访问 GPU，Docker 将无法使用 GPU 功能。
• 确保 nvidia-container-runtime 可执行文件存在于系统中，并且路径正确。