[hadoop]yarn调度器

1.hadoop的调度器主要分为3类:

FIFO,Capacity Scheduler(容量调度器)和Fair Scheduler(公平调度器)。

2.区别:

1)FIFO调度器:支持单队列,先进先出.

它的缺点是大的应用会占用所有的集群资源,导致其他应用被阻塞.生产环境不会用.

2)容量调度器:分多个队列每个队列执行FIFO.

缺点是如果某队列没有任务,但是它的资源也不会释放,会导致资源的浪费.

3)公平调度器:支持多队列,保证每个任务公平享有队列资源。

job1进来的时候享有集群的所有资源,job2进来之后,job1会释放一半的资源给job2,两个job会并行执行,等job2运行结束,job1又会用有整个集群资源.

3.在生产环境怎么选择?

大厂:如果并发度要求比较高,选择公平调度器,要求服务器性能必须ok。

中小公司:服务器资源不太充裕,选择容量。

4.在生产环境怎么创建队列?

小时任务hive1,天任务hive2,平常一些查询一般用hive2,因为天任务基本早上之前跑完.

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Hadoop YARNHadoop的下一代集群资源管理系统,它将集群资源划分为容,通过资源调度来分配和管理这些容。资源调度的配置对于集群的性能和资源利用率至关重要。 首先,需要配置YARN调度类型。目前YARN支持两种调度容量调度公平调度容量调度将集群资源按比例分配给不同的队列,每个队列有固定的资源容量;而公平调度将资源动态分配给各个应用程序,根据应用程序的运行状况动态调整资源分配。 其次,需要配置队列的属性。队列属性包括队列名称、资源容量、资源限制等。资源容量指定了每个队列可以使用的最大资源数量,资源限制是为了避免某个队列占用过多资源而导致其他队列无法正常运行。 另外,还可以配置调度的策略。调度策略根据不同的需求来决定资源的分配方式,比如公平策略会尽量保持各个应用程序获得相同的资源量,而容量策略则会按照预先设定的比例分配资源。 此外,还需要配置队列的优先级。队列优先级可以保证某个队列在资源不足时获得更多的资源,以确保高优先级的应用程序能够正常运行。 最后,还可以配置一些其他参数,例如最大容数、最大AM资源比例等。这些参数可以根据具体的需求进行调整,以优化资源管理和调度效果。 总之,Hadoop YARN资源调度的配置需要根据集群的实际情况和需求进行灵活的调整,以实现高效的资源管理和调度
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值