YARN中的任务队列调度器-容量调度器(Capacity Scheduler)

一、概述

    容量调度器是YARN提供的三种调度器中的一种,这种调度器允许多个组织(队列)共享一个Hadoop集群,每个组织(队列)所分配的集群资源是固定的且可配置的。每个组织(队列)内部还可以进一步划分成小队列,小队列之间共享整个组织(队列)的资源。在一个队列中,使用FIFO规则进行任务调度。

    容量调度器是Hadoop默认使用的调度器,但是像CDH这样的Hadoop分布式项目,默认使用的公平调度器(Fair Scheduler)。

二、配置

1. 修改YARN使用的调度器:

位置:$HADOOP_HOME/etc/hadoop/yarn-site.xml

添加配置:

    key: yarn.resourcemanager.scheduler.class

    value: org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler

2. 定义调度队列

位置:$HADOOP_HOME/etc/hadoop/capacity-scheduler.xml

我本地设置了四个调度队列,它们的结构模型如下:

root 

    --default

    --bigdataU

    --azkaban

首先,root队列下分别是三个子队列:default、bigdataU、azkaban,配置队列选项我们可以直接在配置文件中使用

yarn.scheduler.c

  • 2
    点赞
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值