1. 安装 NVIDIA 驱动程序和 CUDA Toolkit
确保你的系统上安装了 NVIDIA GPU 驱动程序,并且版本与 Docker 期望的版本兼容。
- 运行
nvidia-smi
命令来检查 NVIDIA 驱动程序是否正确安装。
2. 安装 nvidia-container-toolkit
对于 Docker 版本 19.03 及以上,使用 nvidia-container-toolkit
替代旧的 nvidia-docker2
。
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update
sudo apt-get install -y nvidia-container-toolkit
sudo systemctl restart docker
3. 配置 Docker daemon.json
编辑 Docker 的配置文件 daemon.json
,通常位于 /etc/docker/
目录。
{
"default-runtime": "nvidia",
"runtimes": {
"nvidia": {
"path": "nvidia-container-runtime",
"runtimeArgs": []
}
}
}
4. 重启 Docker 服务
每次修改 daemon.json
后,都需要重启 Docker 服务。
sudo systemctl daemon-reload
sudo systemctl restart docker
5. 验证 Docker 配置
运行 docker info
命令,检查输出中是否有 NVIDIA GPU 支持的信息。
docker info | grep -i nvidia
注意事项
- 确保 Docker 版本支持 NVIDIA GPU(19.03 及以上)。
- 如果你的系统上没有 GPU 或者没有足够的权限访问 GPU,Docker 将无法使用 GPU 功能。
- 确保
nvidia-container-runtime
可执行文件存在于系统中,并且路径正确。