Kubernetes中使用NVIDIA DCGM-Exporter监控GPU

在使用NVIDIA GPU的Kubernetes集群中,监控GPU的健康状态和性能对于维护系统的最佳性能至关重要。一种有效的方法是利用NVIDIA数据中心GPU管理器(DCGM)Exporter与Prometheus和Grafana结合使用。在本指南中,我们将演示如何在Kubernetes环境中设置GPU监控。

​实例信息查询​

先决条件
  • 安装了NVIDIA GPU的Kubernetes集群
  • 安装并配置了​​kubectl​​命令行工具
  • 安装并配置了Prometheus和Grafana
安装步骤
  1. 下载DCGM Exporter配置文件:
wget https://raw.githubusercontent.com/NVIDIA/dcgm-exporter/master/dcgm-exporter.yaml
  1. 修改 dcgm-exporter.yaml 文件: 使用文本编辑器(例如​​vi​​​)编辑文件,并更新 ​​securityContext、​​nodeSelector 和 ​​tolerations​​ 部分如下:
securityContext:
  capabilities:
    add: ["SYS_ADMIN"]

nodeSelector:
    
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
监控宿主机多个 Docker 容器GPU 信息,可以使用 NVIDIA 官方提供的 GPU 监控 exporter `nvidia_gpu_prometheus_exporter`。这个 exporter 可以把宿主机所有 GPU使用情况统计起来,然后暴露给 Prometheus 进行监控。 具体使用方法如下: 1. 安装 `nvidia_gpu_prometheus_exporter` ```bash docker run -d --name=nvidia_gpu_prometheus_exporter \ --pid=host \ --runtime=nvidia \ -p 9101:9101 \ nvcr.io/nvidia/k8s/dcgm-exporter:2.0.13-2.2.0-rc.3-ubuntu18.04 ``` 运行上述命令会下载 `nvidia_gpu_prometheus_exporter` 镜像,并以 daemon 模式运行一个容器。 2. 配置 Prometheus 在 Prometheus 的配置文件 `prometheus.yml` 添加以下内容: ```yaml scrape_configs: - job_name: 'nvidia_gpu_exporter' scrape_interval: 5s static_configs: - targets: ['<nvidia_gpu_prometheus_exporter_host>:9101'] ``` 其 `<nvidia_gpu_prometheus_exporter_host>` 是 `nvidia_gpu_prometheus_exporter` 容器所在的宿主机的 IP 地址。 3. 重启 Prometheus 在修改了 `prometheus.yml` 配置文件后,需要重启 Prometheus 才能生效。 4. 访问 Grafana 访问 Grafana 并配置一个 Dashboard,就可以实时监控 GPU 使用情况了。在添加图表时,可以选择 `nvidia_gpu_duty_cycle`、`nvidia_gpu_memory_free`、`nvidia_gpu_memory_total` 等指标。 需要注意的是,`nvidia_gpu_prometheus_exporter` 只能监控到正在运行的容器GPU 使用情况,如果容器已经停止运行,那么它占用的 GPU 资源也不会被统计。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ivwdcwso

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值