为什么YARN资源池的所有节点都被加入黑名单，而YARN却没有释放黑名单，导致任务一直处于运行状态

已于 2022-04-07 10:52:15 修改
阅读量702 收藏
点赞数
分类专栏： 大数据—YARN 文章标签： hadoop mapreduce
于 2022-04-07 10:46:46 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_24393347/article/details/124008506
版权
背景

yarn 在开启lable功能时，运行任务出现大量节点被加入黑名单，且任务无法释放黑名单。一直处于运行中。

原理

yarn的黑名单功能是为了防止多个task在同一个节点重试运行失败导致最终application失败。

解决办法

https://issues.apache.org/jira/browse/YARN-11107

章锡平
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
YARN UI界面日志详解一
NC_NE的博客
06-20 5478
一、查看yarn日志的方式 如果是Apache搭建的集群 可以通过ResourceManager角色服务器的IP来访问（http://hadoop101:8088/cluster）
hadoop(2.9.0)---uber模式(小作业“ubertask”优化)
weixin_33871366的博客
08-23 321
前言： 在有些情况下，运行于Hadoop集群上的一些mapreduce作业本身的数据量并不是很大，如果此时的任务分片很多，那么为每个map任务或者reduce任务频繁创建Container，势必会增加Hadoop集群的资源消耗，并且因为创建分配Container本身的开销，还会增加这些任务的运行时延。如果能将这些小任务都放入少量的Container中执行，将会解决这些问题。好在H...
hadoop添加白名单 以及 黑名单
热门推荐
诗水人间
10-26 14万+
白名单用在刚搭建集群的时候使用，黑名单是正常的退役服务器 注意：不允许白名单和黑名单中同时出现同一个主机名称。 白名单 （1）在NameNode的/opt/module/hadoop-3.2.1/etc/hadoop目录下创建dfs.hosts文件 vim dfs.hosts 内容不允许有其他字符包括空格 hadoop112 hadoop113 hadoop114 ...
Hadoop的TaskTracker黑名单机制
云计算?
05-27 260
Note：这里描述的黑名单是指jobtracker网页summary表格中显示的”Blacklisted Nodes"，称之为集群黑名单. 在HADOOP-4305之前，Hadoop中每个job会维护一个TaskTracker黑名单，这里称之为job黑名单。简单来讲就是当一个job中有4个task曾经在某个tasktracker上失败过，则该job就将这个tasktracker加入自己的jo...
提高spark任务稳定性1 - Blacklist 机制
偷闲小苑
04-25 6530
场景 一个 spark 应用的产生过程： 获取需求 -> 编写spark代码 -> 测试通过 -> 扔上平台调度。 往往应用会正常运行一段时间，突然有一天运行失败，或是失败了一次才运行成功。 从开发者的角度看，我的代码没问题，测试也通过了，之前一段都运行好好的，怎么突然就失败了呢？为什么我重新调度又能正常运行了，是不是你们平台不稳定？是什么导致了上述问题? ...
0439-Hive启用Sentry后如何限制用户提交Yarn资源池
01-07
温馨提示：如果使用电脑...通过放置策略可以自动的将用户分的作业分配到对应的资源池，如果用户手动指定资源池则也可以正常提交作业到指定的资源池，因此需要结合Yarn队列的ACL控制，可以防止用户随意指定资源池问题。
CDH集群YARN动态资源池的规划与管理.docx
最新发布
10-11
1 YARN动态资源池 2 CDH集群上YARN的动态资源池配置 2.1 参数配置 2.1.1 yarn.admin.acl ...大的应用可能会占用所有集群资源，这就导致其它应用被阻塞。在共享集群中，更适合采用Capacity Scheduler或Fair Scheduler
YARN动态资源池配置
08-14
YARN动态资源池配置，YARN动态资源池配置，YARN动态资源池配置
分布式资源调度——YARN框架
03-01
本文来自于51cto，ApacheHadoopYARN（YetAnotherResourceNegotiator，另一种资源协调者）是一种新的Hadoop资源管理器，它是一个通用资源管理系统，可为上层应用提供统一的资源管理和调度.YARN是Hadoop2.x才有的，...
YARN框架原理及运行机制
01-27
YARN是Hadoop2.0中的资源管理系统，它的设计思想是将MRv1中...当提交一个应用程序时，需要提供一个用以跟踪和管理这个程序的AM，它负责向RM申请资源，并要求NM启动占用一定资源的任务，不同的AM被分布在不同的节点上。
yarn 资源调度问题排查
半日闲的博客
09-04 1607
yarn schedule
YARN-Container申请和分配
xw514124202的博客
11-21 1865
AM在NM上成功启动并向RM注册后，向RM请求资源（Container）到获取资源的整个过程，以及RM内部涉及的主要工作流程。整个过程可看做以下两个阶段的迭代循环 阶段1：AM汇报资源需求 并领取已分配资源。 阶段2：NM向RM汇报各个Container的运行状态，如果RM发现它上面有空闲的资源，则进行一次资源分配，并将分配的资源保存到对应的数据结构中，等待下一次AM发送心跳信息时获取。 阶段...
Yarn详解
梓纾的专栏
12-31 1万+
1. Yarn架构1.1 简介1.1.1 架构YARN主要由ResourceManager、NodeManager、ApplicationMaster和Container等几个组件构成。YARN总体上仍然是Master/Slave结构，在整个资源管理框架中，ResourceManager为Master，NodeManager为Slave，ResourceManager负责对各个NodeManager
Hadoop集群_退役旧数据节点（添加白名单黑名单）
weixin_42874602的博客
10-27 441
Hadoop集群_退役旧数据节点（添加白名单黑名单） 概述 上一节《Hadoop集群_服役新数据节点》在集群中随便就可以添加一个节点上去，有些危险。这里我们给集群添加白名单以及黑名单 添加白名单 添加到白名单的主机节点，都允许访问NameNode，不在白名单的主机节点，都会被退出。本次操作都在hadoop191节点上执行。 配置白名单的具体步骤如下： 在NameNode的/opt/module/hadoop-2.7.2/etc/hadoop目录下创建dfs.hosts文件。我这里是hadoop191节点。
Yarn中的几种状态机
weixin_30383279的博客
08-05 363
1 概述 为了增大并发性，Yarn采用事件驱动的并发模型，将各种处理逻辑抽象成事件和调度器，将事件的处理过程用状态机表示。什么是状态机？ 如果一个对象，其构成为若干个状态，以及触发这些状态发生相互转移的事件，那么此对象称之为状态机。 处理请求作为某种事件发送到系统中，由一个中央调度器传递给对应的事件调度器，进而对事件进行处理，处理完成之后再次发送给中央调度器，再进行处...
spark on yarn执行完hsql命令 yarn队列一直没有释放资源
qq_31454379的博客
07-27 2723
现象描述 这个任务已经执行完毕，但是任务状态一致是running导致队列资源没有释放 由于是测试服务器，队列资源较少，导致后面任务阻塞。 原因：spark on hive本质是spark-shell.sh，spark-shell.sh会一直占用进程，这样后面提交的hive on spark任务就不需要重复上传spark依赖，加速任务执行速度 解决方法： 如果是hive命令行客户端提交的job，退出hive命令行，资源自动释放 如果是脚本提交的job，最好在脚本末尾加入 !quit 主动释放资源 ..
spark写s3出现task结束而yarn管理UI不终止的情形
u014763678的博客
09-16 755
问题： 最近项目需要使用spark往s3写数据，在编写好代码后通过yarn cluster模式运行spark任务，在UI上监控程序运行情况，发现UI上task都结束后，spark仍然处于running状态，持续了十几分钟后才终止。 起初以为是编写的多线程没有正确shutdown问题，或者是由于s3的check机制导致的。最后发现都不是这两种原因导致的。 导致问题的原因： 导致问题的原因是s3中的文件重命名操作是由复制操作加上删除操作组成的，等等，这跟s3文件重命名有什么关系？？ 哈哈，...
hadoop3.x入门到精通-阶段一(安装集群)
S1124654的博客
06-29 542
hadoop3.x入门到精通-阶段一(安装集群)
YARN——任务运行异常处理
hncscwc的博客
04-27 2682
【概述】上篇文章讲述了yarn任务提交运行的流程，本文来聊聊整个运行过程中的一些异常情况，以及yarn是如何处理的。【container进程异常】在NM内部，对于container进程的启...
java api获取yarn资源池各节点信息
05-27
要获取YARN资源池各节点信息，可以使用YARN的Java API。 以下是获取YARN资源池各节点信息的示例代码： ```java import org.apache.hadoop.conf.Configuration; import org.apache.hadoop.yarn.api.records.NodeReport; import org.apache.hadoop.yarn.client.api.YarnClient; import org.apache.hadoop.yarn.client.api.YarnClientFactory; import org.apache.hadoop.yarn.conf.YarnConfiguration; import java.util.List; public class YarnNodeReport { public static void main(String[] args) throws Exception { // 创建Yarn客户端 Configuration conf = new YarnConfiguration(); YarnClient yarnClient = YarnClientFactory.createYarnClient(); yarnClient.init(conf); yarnClient.start(); // 获取节点报告 List<NodeReport> nodeReports = yarnClient.getNodeReports(); // 输出各节点信息 for (NodeReport nodeReport : nodeReports) { System.out.println("Node ID: " + nodeReport.getNodeId().toString()); System.out.println("Node HTTP Address: " + nodeReport.getHttpAddress()); System.out.println("Node Health Report: " + nodeReport.getHealthReport()); System.out.println("Node Labels: " + nodeReport.getNodeLabels()); System.out.println("Node State: " + nodeReport.getNodeState().toString()); System.out.println("Node Total Resource: " + nodeReport.getTotalCapability().toString()); } // 关闭Yarn客户端 yarnClient.stop(); } } ``` 这段代码使用YARN的Java API获取节点报告，输出各节点的信息，包括节点ID、HTTP地址、健康报告、标签、状态和总资源等信息。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值