在YARN上使用GPU

于 2021-07-18 13:04:15 发布
阅读量586 收藏
点赞数
分类专栏： AI Platform Big Data Cloud 文章标签： gpu yarn big data
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/chansonzhang/article/details/118876024
版权
Cloud 同时被 3 个专栏收录
8 篇文章 0 订阅
订阅专栏
AI Platform
4 篇文章 5 订阅
订阅专栏
Big Data
3 篇文章 0 订阅
订阅专栏
本文档详细介绍了如何在Hadoop YARN环境下配置和使用GPU资源。首先，文章提到了配置GPU资源类型的必要性，包括修改${HADOOP_HOME}/etc/hadoop/resource-types.xml以避免ResourceNotFoundException。接着，介绍了需要将YARN的默认资源计算器更改为以支持GPU资源调度，并更新了yarn-site.xml和container-executor.cfg的配置。由于缺乏实际GPU硬件，作者通过模拟GPU环境来测试YARN，使得即使在无GPU的系统上也能正常运行。最后，文章指出在运行示例应用时，设置GPU数量必须匹配实际可用资源，否则会导致任务失败或出现错误提示。
摘要由CSDN通过智能技术生成

Use GPU on YARN

环境信息

  1. hadoop-3.2.2
  2. Linux centos7 3.10.0-1160.24.1.el7.x86_64

相关配置

${HADOOP_HOME}/etc/hadoop/resource-types.xml

 <configuration>
  <property>
     <name
chansonzhang
关注
专栏目录
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值