YARN中的任务队列调度器-容量调度器(Capacity Scheduler)

本文介绍了YARN的容量调度器(Capacity Scheduler),它允许多个组织通过配置固定资源的队列共享集群。调度器允许FIFO任务调度,并通过配置队列实现资源管理。配置包括指定调度器、定义队列及其资源占比、最大资源占比等。队列放置需由应用指定,未指定则默认放入default队列。容量调度器确保长时间和短时间任务的平衡,但可能降低集群整体利用率。
摘要由CSDN通过智能技术生成

一、概述

    容量调度器是YARN提供的三种调度器中的一种,这种调度器允许多个组织(队列)共享一个Hadoop集群,每个组织(队列)所分配的集群资源是固定的且可配置的。每个组织(队列)内部还可以进一步划分成小队列,小队列之间共享整个组织(队列)的资源。在一个队列中,使用FIFO规则进行任务调度。

    容量调度器是Hadoop默认使用的调度器,但是像CDH这样的Hadoop分布式项目,默认使用的公平调度器(Fair Scheduler)。

二、配置

1. 修改YARN使用的调度器:

位置:$HADOOP_HOME/etc/hadoop/yarn-site.xml

添加配置:

    key: yarn.resourcemanager.scheduler.class

    value: org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler

2. 定义调度队列

位置:$HADOOP_HOME/etc/hadoop/capacity-scheduler.xml

我本地设置了四个调度队列,它们的结构模型如下:

root 

    --default

    --bigdataU

    --azkaban

首先,root队列下分别是三个子队列:default、bigdataU、azkaban,配置队列选项我们可以直接在配置文件中使用

yarn.scheduler.c

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值