使用K8s调度Nvidia GPU

最新推荐文章于 2024-09-06 23:38:52 发布
最新推荐文章于 2024-09-06 23:38:52 发布
阅读量3.9k 收藏 10
点赞数 4
分类专栏： 常用工具 文章标签： kubernetes docker linux
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wxf1995/article/details/121311224
版权
本文详述了在Kubernetes集群上配置Nvidia GPU的步骤，包括安装Nvidia驱动，部署nvidia-docker-runtime，配置各节点，启用Kubernetes中的GPU支持，并演示了启动GPU任务的方法。
摘要由CSDN通过智能技术生成

在Kubernetes配置与集群监控的搭建和Docker常用命令中，我们介绍了如何安装Docker以及Kubernetes。对于集群而言，本文将更进一步地介绍如何使用Docker+K8s进行集群的GPU管理。

安装Nvidia驱动

Nvidia的驱动可以在官网下载。注意自己的系统内核以及显卡型号。安装完成后，在命令行使用nvidia-smi命令来查看显卡列表以及相关信息。如果成功安装，将会看到如下的结果。

~$ nvidia-smi
Sat Nov 13 22:21:26 2021       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.57.02    Driver Version: 470.57.02    CUDA Version: 11.4     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+=========
最低0.47元/天 解锁文章
咚咚鼠说要一起旅行
关注
专栏目录
k8s调度 原理_深入剖析k8s之默认调度器调度策略解析
weixin_35225144的博客
12-24 1580
本篇专注在调度过程中 Predicates 和 Priorities 这两个调度策略主要发生作用的阶段。Predicates首先，我们一起看看 Predicates。Predicates 在调度过程中的作用，可以理解为 Filter，即：它按照调度策略，从当前集群的所有节点中，“过滤”出一系列符合条件的节点。这些节点，都是可以运行待调度 Pod 的宿主机。而在 Kubernetes 中，默认的调度...
k8s调用gpu，nvidia-docker使用gpu
热门推荐
flyingbird
03-04 1万+
简单介绍了nvidia-docker，介绍了k8s如何调用gpu
GPU调度器深度学习版——阿里巴巴开源实现指南
gitblog_00106的博客
08-07 832
GPU调度器深度学习版——阿里巴巴开源实现指南 GPU-scheduler-for-deep-learningGPU-scheduler-for-deep-learning项目地址:https://gitcode.com/gh_mirrors/gp/GPU-scheduler-for-deep-learning 1. 项目介绍 阿里巴巴开发的GPU调度器用于深度学习（GPU-scheduler-...
GPUTasker：轻量级GPU任务调度器
gitblog_00706的博客
08-19 744
GPUTasker：轻量级GPU任务调度器 gputaskerAn awesome gpu tasks scheduler. 轻量好用的GPU机群任务调度工具。觉得有用可以点个star项目地址:https://gitcode.com/gh_mirrors/gp/gputasker 项目介绍 GPUTasker 是一个针对GPU机群设计的出色任务调度工具，旨在提供一个轻量且易用的解决方案来管理复杂...
gpu的虚拟化如何在k8s上部署操作
最新发布
weixin_41902931的博客
09-06 1564
在 Kubernetes (K8s) 上部署 GPU 虚拟化需要更细致的步骤和配置，尤其是针对 NVIDIA GPU 的虚拟化方式。以下是更详细的部署操作步骤。GPU 虚拟化是指通过软件和硬件技术将一个物理 GPU 的资源分割成多个虚拟 GPU (vGPU)，使多个虚拟机或容器能够共享一个 GPU 的计算能力。NVIDIA Device Plugin for Kubernetes 是一个 DaemonSet，它在每个启用了 GPU 的节点上运行，用于将 GPU 资源暴露给 Kubernetes。
k8sGPU指导
02-07
ExecStart=/opt/bin/kube-apiserver \ --insecure-bind-address=0.0.0.0 \ --insecure-port=8080 \ --etcd-servers=http://127.0.0.1:2379 \ --logtostderr=true \ --allow-privileged=false \ --service-cluster-ip-range=172.18.0.0/16 \ --admission-
K8S中使用英伟达GPU —— 筑梦之路
筑梦之路
08-15 811
【代码】K8S中使用英伟达GPU —— 筑梦之路。
k8s中如何使用gpu、gpu资源讲解、nvidia gpu驱动安装
MssGuo的博客
10-12 7278
gpu资源也是服务器中常见的一种资源，gpu即显卡，一般用在人工智能、图文识别、大模型等领域，其中nvidia gpu是nvidia公司生产的nvidia类型的显卡，amd gpu则是adm公司生产的amd类型gpu。企业中服务器最常见的就是英伟达gpu服务器了。本篇也主要讲解英伟达驱动相关的知识。
K8S使用NVIDIA GPU
学亮编程手记
03-13 1369
总的来说，需要安装驱动、docker、kubelet、NVIDIA device plugin等工具支持，然后使用带有NVIDIA GPU的容器进行测试。同时，Kubernetes可以自动地将GPU容器调度到支持GPU的节点上，以便最大化利用GPU资源。在Kubernetes中配置GPU资源，以便调度器可以正确地将容器调度到GPU节点上。安装nvidia-docker，以便在容器中访问GPU。在Kubernetes节点上安装NVIDIA GPU驱动，可以使用NVIDIA提供的官方安装脚本。
K8s GPU 资源管理探索：在 KubeSphere 上部署 AI 大模型 Ollama
KubeSphere
07-10 1956
作者：运维有术星主随着人工智能、机器学习、AI 大模型技术的迅猛发展，我们对计算资源的需求也在不断攀升。特别是对于需要处理大规模数据和复杂算法的 AI 大模型，GPU 资源的使用变得至关重要。对于运维工程师而言，掌握如何在 Kubernetes 集群上管理和配置 GPU 资源，以及如何高效部署依赖这些资源的应用，已成为一项不可或缺的技能。今天，我将带领大家深入了解如何在 KubeSphere 平台上，利用 Kubernetes 强大的生态和工具，实现 GPU 资源的管理和应用部署。
使用Bitfusion在K8s上共享GPU资源
亨利笔记
07-18 1619
题图摄于北京北三环注：微信公众号不按照时间排序，请关注公众号“亨利笔记”，并加星标以置顶，以免错过更新。（本文作者系VMware中国研发云原生实验室架构师，负责云原生、机器学习等方面的创新...
k8s-device-plugin:用于Kubernetes的NVIDIA设备插件
05-11
用于Kubernetes的NVIDIA设备插件 目录 关于 用于Kubernetes的NVIDIA设备插件是一个Daemonset，可让您自动执行以下操作： 公开集群中每个节点上的GPU数量 跟踪GPU的运行状况 在您的Kubernetes集群中运行启用GPU的容器。 该存储库包含NVIDIA的的官方实现。 请注意： NVIDIA设备插件API自Kubernetes v1.10起为beta版。 NVIDIA设备插件仍被认为是Beta版，并且缺少 更全面的GPU运行状况检查功能 GPU清理功能 ... 仅对官方的NVIDIA设备插件提供支持（不为该插件的fork或其他变体提供支持）。 先决条件 下面描述了运行NVIDIA设备插件的先决条件列表： NVIDIA驱动程序〜= 384.81 nvidia-docker版本> 2.0（请参阅及其） 将nvidia配置为 。 Kub
GPU Manager用于管理Kubernetes集群中的nvidia GPU设备-Golang开发
05-26
为了与nvidia-docker和nvidia-k8s-plugin的组合解决方案进行比较，GPU管理器将使用未经修改的本机runc，而nvidia解决方案则进行了修改。 此外，我们还支持指标报告，而无需部署新组件。 要正确安排GPU有效负载，GPU...
助力深度学习！阿里开源可插拔 GPU 共享调度工具 ...
weixin_34268579的博客
03-02 270
根据 Gartner对全球 CIO 的调查结果显示，人工智能将成为 2019 年组织革命的颠覆性力量。对于人工智能来说，算力即正义，成本即能力，利用 Docker 和 Kubernetes 代表云原生技术为 AI 提供了一种新的工作模式，将 GPU 机器放到统一的资源池进行调度和管理，这避免了GPU 资源利用率低下和人工管理的成本。因此，全球主要的容器...
K8s集群gpu支持（直通和vgpu）
qq_42152032的博客
06-22 5113
1-1v1.8之前的老版本:基于nvidia-docker实现(基本不用了,了解) 前期准备：1、nvidia driver 2、cuda 3、nvidia-docker K8s 启动pod时指定参数，即可使用gpu （1）alpha.kubernetes.io/nvidia-gpu 指定调用nvidia gpu的数量 （2）为了能让GPU容器运行起来，需要将Nvidia驱动和CUDA库文件指定到容器中。这里需要使用hostPath，您只需要将hostPath指定到/var/lib/nvidia-do
ubuntu安装nvidia-docker k8s使用GPU资源
Thomson_tian的博客
05-24 921
一、 nvidia-docker安装 卸载nvidia-docker及其它GPU容器 docker volume ls -q -f driver=nvidia-docker | xargs -r -I{} -n1 docker ps -q -a -f volume={} | xargs -r docker rm -f sudo apt-get purge -y nvidia-docker 添加仓库包 curl -s -L https://nvidia.github.io/nvidia-dock
K8S调用GPU资源配置指南
不当初
06-10 1万+
 该文档用于描述使用Kubernetes调用GPU资源的配置过程。文档会较为详细的描述在配置过程中遇到的问题和解决方式，并且会详细描述每个步骤的验证结果，该文档对于Kubernetes的使用以及GPU资源的理解有一定的辅助意义。在行文时主要描述了TensorFlow框架调用GPU、也有Pytorch调用GPU支持的过程，文档适用于运维人员、开发人员。 配置过程的主要目标是实现通过yaml文件实现对于底层GPU资源的调度。为达到此目的，需要实现如下的目标： Docker 使用容器创建虚拟环境，以便将 Tens
k8s集群内带GPU工作节点配置显卡驱动
那个那个
05-17 1241
注：修改部署类型，如果有多台显卡，可以选择部署到有显卡的服务器。2.4、通过rancher设置容器使用显卡数量。k8s集群内带GPU工作节点配置显卡驱动。1.3、安装nvidia-docker2。2.2、部署k8s nvidia插件。2.1、修改daemon.json。2.3、K8S集群内检查显卡。1.1、官网下载驱动程序。注：cuda最好12版本。一、下载、安装显卡驱动。系统为Centos7。1.2、安装显卡驱动。二、配置环境支持显卡。
k8s调用gpu
weixin_44946147的博客
07-17 301
https://blog.csdn.net/weixin_44946147/article/details/107399255
k8s1.20.0 gpu调度
04-01
Kubernetes 1.20.0提供了GPU调度的支持，通过添加节点标签和调度器配置，可以将GPU资源分配给特定的容器。下面是实现GPU调度的步骤： 1. 在节点上安装GPU驱动程序和CUDA运行时环境，并确保它们可以正常工作。 2. 为GPU节点添加标签。例如，可以为节点添加一个名为“gpu”的标签： ``` kubectl label nodes <node-name> gpu=true ``` 3. 在Pod定义中添加GPU资源请求和限制。例如，可以使用以下定义： ``` apiVersion: v1 kind: Pod metadata: name: gpu-pod spec: containers: - name: gpu-container image: nvidia/cuda:11.1-base resources: requests: nvidia.com/gpu: 1 limits: nvidia.com/gpu: 2 ``` 这将请求1个GPU资源，并将限制设置为2个GPU资源。 4. 使用GPU调度器配置来调度Pod。可以使用以下配置： ``` apiVersion: kubescheduler.config.k8s.io/v1beta1 kind: KubeSchedulerConfiguration schedulerName: default-scheduler plugins: score: enabled: - name: nvidia-gpu disabled: - name: pod-nodelabel ``` 这将启用“nvidia-gpu”插件并禁用“pod-nodelabel”插件。 5. 将调度器配置文件添加到Kubernetes集群中： ``` kubectl apply -f scheduler-config.yaml ``` 其中，scheduler-config.yaml是调度器配置文件的名称。 6. 将Pod调度到GPU节点： ``` kubectl create -f gpu-pod.yaml ``` 其中，gpu-pod.yaml是包含GPU资源请求和调度器配置的Pod定义文件。 7. 确认Pod已经分配了GPU资源： ``` kubectl describe pod gpu-pod ``` 在输出中，应该可以看到GPU资源的分配情况。 通过这些步骤，就可以在Kubernetes 1.20.0中实现GPU调度。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值