Yarn 优先级管理

1. queue

数字越大,优先级越高

2、动态调整

如果是已经在运行中的任务,可以动态调整任务所属队列及其优先级。

 

2.1 调整优先级

优先级默认有5个:LOW VERY_LOW NORMAL(默认) HIGH VERY_HIGH

hadoop1.0及以下版本:hadoop job -set-priority job_201707060942_6121418 VERY_HIGH 
hadoop2.0及以上版本:yarn application -appId application_1478676388082_963529 -updatePriority VERY_HIGH 
 

2.2 动态调整队列 

hadoop2.0及以上版本可以通过下面命令 
yarn application  -movetoqueue  application_1478676388082_963529  -queue  root.etl 
其中application_1478676388082_963529为yarn applition id,queue后跟的是需要move到的队列。

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Yarn 是 Apache Hadoop 生态系统中的一个资源管理器,用于在集群上有效地管理和分配资源。它可以协调和管理集群中运行的各种应用程序的资源需求。 在 Yarn 中,队列是用来对集群资源进行划分和管理的。队列可以理解为资源池,不同队列可以拥有不同的资源配额和调度策略。 Yarn 中的队列分为两种类型:根队列和子队列。根队列是最高级别的队列,而子队列则是根队列的子级。通过对队列进行层次化管理,可以实现资源的有效划分和管理。 队列资源管理可以通过以下几种方式进行配置: 1. 队列属性配置:可以通过配置文件或命令行参数来设置队列的属性,包括队列名称、最大资源限制、最小资源限制、调度策略等。 2. 队列优先级:可以为每个队列设置优先级,以确保高优先级的应用程序能够获取更多的资源。 3. 队列配额:可以为每个队列设置资源配额,限制队列可以使用的资源数量。这样可以确保不同队列之间的资源分配是公平和均衡的。 4. 队列调度策略:Yarn 提供了多种调度策略,如先进先出、公平调度、容量调度等。可以根据实际需求选择合适的调度策略来满足不同应用程序的资源需求。 通过合理的队列资源管理,可以实现集群资源的高效利用和应用程序的公平调度,从而提高集群的整体性能和资源利用率。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值