docker启动容器时运用宿主机的GPU

在装好docker以及nvidia-docker后,启动Ubuntu18/cuda的docker镜像
先进行一个测试,执行以下命令

$ docker run --runtime=nvidia --rm xxx nvidia-smi

注意:xxx为你的镜像名称
如果有类似以下输出,则表示docker可以正常调用GPU

在这里插入图片描述
然后执行如下命令即可进入容器终端

$ docker run --runtime=nvidia -it xxx /bin/bash

如果报以下错

在这里插入图片描述
则到/etc/docker/文件夹下新建daemon.json文件(如果文件存在就不用新建了),并写入以下内容:

{
    "runtimes": {
        "nvidia": {
            "path": "/usr/bin/nvidia-container-runtime",
            "runtimeArgs": []
        }
    }
}

一定要注意json文件的格式要正确。

然后重启docker服务:

$ systemctl restart docker
$ systemctl daemon-reload

Done!

  • 3
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 3
    评论
要实现在Ubuntu 20.04中监控多个Docker容器中的GPU信息,我们需要使用以下Docker组件: 1. NVIDIA Docker 2. Prometheus Node Exporter 3. Prometheus 4. Grafana 步骤如下: 1. 安装NVIDIA Docker NVIDIA Docker是一个Docker运行,它允许容器访问主上的GPU。要安装NVIDIA Docker,请按照官方指南进行操作。 2. 安装Prometheus Node Exporter Prometheus Node Exporter是一个开源工具,它可以在主上运行并公开各种系统级指标。我们可以使用Prometheus Node Exporter来公开主上的GPU指标。要安装Prometheus Node Exporter,请按照官方指南进行操作。 3. 配置Prometheus Prometheus是一个开源的监控系统,它可以收集和存储各种指标。我们需要配置Prometheus以收集主上的GPU指标。要配置Prometheus,请按照官方指南进行操作。 在Prometheus的配置文件中,我们需要添加以下内容: ``` - job_name: 'node_exporter' scrape_interval: 5s static_configs: - targets: ['localhost:9100'] - job_name: 'nvidia_smi' scrape_interval: 5s static_configs: - targets: ['localhost:9445'] ``` 其中,`localhost:9100`是Prometheus Node Exporter的地址,`localhost:9445`是NVIDIA Docker插件的地址。 4. 配置Grafana Grafana是一个开源的可视化工具,它可以将各种指标可视化。我们需要配置Grafana以显示GPU指标。要配置Grafana,请按照官方指南进行操作。 在Grafana中,我们需要创建一个新的Dashboard并添加一个新的Panel。在Panel中,我们需要使用以下PromQL查询来显示GPU占用率: ``` nvidia_gpu_utilization{instance=~"$node:9445"} ``` 其中,`$node`是Prometheus的节点名称。 这样,我们就可以在Grafana中展示容器中的GPU占用率了。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CrystalheartLi

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值