(26)增加ApplicationMaster 资源比例

1.针对容量调度器并发度低的问题,考虑调整 yarn.scheduler.capacity.maximum-am
resource-percent 该参数。默认值是 0.1 ,表示集群上 AM 最多可使用的资源比例,目的为限
制过多的 app 数量。
1 )在 hadoop102 /opt/module/hadoop-3.1.3/etc/Hadoop/capacity-scheduler.xml 文件中
修改 如下参数值

2 )分发 capacity-scheduler.xml 配置文件
[atguigu@hadoop102 hadoop]$ xsync capacity-scheduler.xml
3 )关闭正在运行的任务,重新启动 yarn 集群
[atguigu@hadoop103 hadoop-3.1.3]$ sbin/stop-yarn.sh
[atguigu@hadoop103 hadoop-3.1.3]$ sbin/start-yarn.sh
2.配置 Yarn 容量调度器多队列
在企业里面如何配置多队列:
按照计算引擎创建队列 hive spark flink
按照业务创建队列:下单、支付、点赞、评论、收藏(用户、活动、优惠相关)
多队列有什么好处?
假如公司来了一个菜鸟,写了一个递归死循环,公司集群资源耗尽,大数据全部瘫痪。
可以使用队列统一管理任务优先级,保证重要的任务优先完成。
3.增加容量调度器队列
1 )修改容量调度器配置文件
默认 Yarn 的配置下,容量调度器只有一条 default 队列。在 capacity-scheduler.xml 中可
以配置多条队列, 修改 以下属性,增加 hive 队列。

 同时为新加队列添加必要属性:

 

2 )分发配置文件
[atguigu@hadoop102 ~]$ xsync
/opt/module/hadoop-
3.1.3/etc/hadoop/capacity-scheduler.xml
3 )重启 Hadoop 集群
4.测试新队列
1 )提交一个 MR 任务,并指定队列为 hive
[atguigu@hadoop102 ~]$ hadoop jar /opt/module/hadoop-
3.1.3/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar pi
-
Dmapreduce.job.queuename=hive 1 1
2 )查看 ResourceManager web 页面,观察任务被提交到的队列

5.  创建数据库
1 )启动 hive
[atguigu@hadoop102 hive]$ bin/hive
2 )显示数据库
hive (default)> show databases;
3 )创建数据库
hive (default)> create database gmall;
4 )使用数据库
hive (default)> use gmall;
6.datagrip 工具
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大数据开发工程师-宋权

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值