AM Max Resources限制Yarn App个数时怎么办

步骤一、capacity-scheduler.xml配置

<property>
    <name>yarn.scheduler.capacity.maximum-am-resource-percent</name>
    <value>0.1</value>
    <description>
       先修改这个配置,增大Am的使用资源的最大比率
    </description>
</property>

步骤二、增加一个专门针对Queue级别的配置文件

<?xml version="1.0"?>
<allocations>
<queue name="root">
    <minResources>2048 mb,1 vcores</minResources>
    <maxResources>95% memory,95% cpu</maxResources>
    <!--<maxChildResources>5% memory,5% cpu</maxChildResources>-->
    <maxRunningApps>200</maxRunningApps>
    <maxAMShare>1.0f</maxAMShare>
    <weight>1</weight>
    <schedulingPolicy>fair</schedulingPolicy>
    <queue name="default">
        <minResources>0% memory,0% cpu</minResources>
        <maxResources>95% memory,95% cpu</maxResources>
        <maxRunningApps>200</maxRunningApps>
        <maxAMShare>1.0f</maxAMShare>
        <weight>1</weight>
    </queue> <!-- root子queue,这里可以根据实际并列几个子queue-->
</queue> 
</allocations>

这个配置文件是针对Queue级别的。需要在Yarn-site.xml里面增加File的位置,才能生效。

yarn-site.xml增加如下配置(文件名称为fair-scheduler-allocation.xml)

<property>
<name>yarn.scheduler.fair.allocation.file</name>
<value>/app/app/hadoop/etc/hadoop/fair-scheduler-allocation.xml</value>
</property>
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值