hive insert 数据时报队列冲突问题解决方法
使用自己新建的用户,执行hive语句insert数据时,报错:job submission failed with excepiton 'java.io.IOException(Failed to run job: Application rejected by queue placement policy)' FAILED:Excution Error, return code 1 from org.apache.hadoop.hive.ql.exec.mr.MapRedTask 解决方法:
使用用户: user111
(1)找到yarn队列调度配置: fair-scheduler.xml配置文件
配置你的队列名字:<queue name = 'user111Queue'> .... </queue>
刷新:yarn rmadmin -refreshQueues
注意:所有的resourcemanager的节点都最好都增加此配置
(2)增加:
hive:
SET mapreduce.job.queuename=user111Queue;
shell:
hive -e "insert overwrite table aaa select * from bbb" -hiveconf mapreduce.job.queuename=user111Queue
作业提交到的队列:mapreduce.job.queuename 解决不同用户间提交的作业队列冲突问题
(3)重跑即可解决问题