Hadoop 设置任务执行的队列以及优先级

作业提交到的队列:mapreduce.job.queuename

作业优先级:mapreduce.job.priority,优先级默认有5个:LOW VERY_LOW NORMAL(默认) HIGH VERY_HIGH

1、静态设置
1.1 Pig版本
SET mapreduce.job.queuename root.etl.distcp;

SET mapreduce.job.priority HIGH;

1.2 Hive版本
SET mapreduce.job.queuename=root.etl.distcp;

SET mapreduce.job.priority=HIGH;

1.3 MapReduce版本:
hadoop jar app.jar -D mapreduce.job.queuename=root.etl.distcp -D mapreduce.job.priority=HIGH

2、动态调整
如果是已经在运行中的任务,可以动态调整任务所属队列及其优先级。

2.1 调整优先级
hadoop1.0及以下版本:hadoop job -set-priority job_201707060942_6121418 VERY_HIGH 
// hadoop2.0及以上版本:yarn application -appId application_1478676388082_963529 -updatePriority VERY_HIGH (测试不可用)

2.2 动态调整队列 
hadoop2.0及以上版本可以通过下面命令 
yarn application  -movetoqueue  application_1478676388082_963529  -queue  root.etl 
其中application_1478676388082_963529为yarn applition id,queue后跟的是需要move到的队列。

进入Hadoop的配置多队列(Queue)的容量调度器首先需要编辑核心的YARN(Yet Another Resource Negotiator,Hadoop的新资源管理框架)配置文件。YARN默认使用公平调度器,若需切换到多队列的容量调度器(Capacity Scheduler,简称CS),你需要按照以下步骤操作: 1. **找到配置文件**:通常,Hadoop的主配置文件位于`<HADOOP_HOME>/conf`目录下,名为`yarn-site.xml`。 2. **打开配置文件**:使用文本编辑器如`vim`, `nano` 或者 `notepad++` 打开它。 3. **修改`capacity-scheduler.xml`**:在`yarn-site.xml`内,可能会有一个类似这样的引用,指向`capacity-scheduler.xml`的路径: ```xml <property> <name>yarn.resourcemanager.scheduler.class</name> <value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler</value> </property> ``` 确认`CapacityScheduler`已经被设置为此值。 4. **编辑`capacity-scheduler.xml`**:在该文件中,你可以创建多个队列(queue)并分配它们的资源比例。每个队列有自己的配额,比如vCore、内存等。你需要添加队列定义,并配置它们之间的优先级和资源限制。 5. **保存并关闭文件**:编辑完成后记得保存并退出编辑器。 6. **重启YARN服务**:为了应用新的配置,你需要停止并重启`ResourceManager`和`NodeManager`服务,命令通常是`sbin/stop-yarn.sh` 和 `sbin/start-yarn.sh`。 7. **验证配置**:现在可以检查`ResourceManager` UI(通常通过浏览器访问`http://<RM_HOST>:8088/cluster`)来确认是否已启用多队列容量调度器以及各个队列设置。 如果你不确定如何操作,建议查阅官方文档或者参考示例配置,因为实际配置可能因版本不同而有所变化。
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值