ResourceManager相关配置参数

1.    ResourceManager相关配置参数

(1) yarn.resourcemanager.address

参数解释:ResourceManager 对客户端暴露的地址。客户端通过该地址向RM提交应用程序,杀死应用程序等。

默认值:${yarn.resourcemanager.hostname}:8032

(2) yarn.resourcemanager.scheduler.address

参数解释:ResourceManager 对ApplicationMaster暴露的访问地址。ApplicationMaster通过该地址向RM申请资源、释放资源等。

默认值:${yarn.resourcemanager.hostname}:8030

(3) yarn.resourcemanager.resource-tracker.address

参数解释:ResourceManager 对NodeManager暴露的地址.。NodeManager通过该地址向RM汇报心跳,领取任务等。

默认值:${yarn.resourcemanager.hostname}:8031

(4) yarn.resourcemanager.admin.address

参数解释:ResourceManager 对管理员暴露的访问地址。管理员通过该地址向RM发送管理命令等。

默认值:${yarn.resourcemanager.hostname}:8033

(5) yarn.resourcemanager.webapp.address

参数解释:ResourceManager对外web ui地址。用户可通过该地址在浏览器中查看集群各类信息。

默认值:${yarn.resourcemanager.hostname}:8088

(6) yarn.resourcemanager.scheduler.class

参数解释:启用的资源调度器主类。目前可用的有FIFO、Capacity Scheduler和Fair Scheduler。

默认值:

org.apache.hadoop.yarn.server.resourcemanager.scheduler.capacity.CapacityScheduler

(7) yarn.resourcemanager.resource-tracker.client.thread-count

参数解释:处理来自NodeManagerRPC请求的Handler数目

默认值:50

(8) yarn.resourcemanager.scheduler.client.thread-count

参数解释:处理来自ApplicationMasterRPC请求的Handler数目

默认值:50

(9) yarn.scheduler.minimum-allocation-mb/ yarn.scheduler.maximum-allocation-mb

参数解释:单个可申请的最小/最大内存资源量。比如设置为1024和3072,则运行MapRedce作业时,每个Task最少可申请1024MB内存,最多可申请3072MB内存。

默认值:1024/8192

(10) yarn.scheduler.minimum-allocation-vcores / yarn.scheduler.maximum-allocation-vcores

参数解释:单个可申请的最小/最大虚拟CPU个数。比如设置为1和4,则运行MapRedce作业时,每个Task最少可申请1个虚拟CPU,最多可申请4个虚拟CPU。什么是虚拟CPU,可阅读我的这篇文章:“YARN 资源调度器剖析”。

默认值:1/32

(11) yarn.resourcemanager.nodes.include-path /yarn.resourcemanager.nodes.exclude-path

参数解释:NodeManager黑白名单。如果发现若干个NodeManager存在问题,比如故障率很高,任务运行失败率高,则可以将之加入黑名单中。注意,这两个配置参数可以动态生效。(调用一个refresh命令即可)

默认值:“”

(12) yarn.resourcemanager.nodemanagers.heartbeat-interval-ms

参数解释:NodeManager心跳间隔

默认值:1000(毫秒)

2.    NodeManager相关配置参数

(1) yarn.nodemanager.resource.memory-mb

参数解释:NodeManager总的可用物理内存。注意,该参数是不可修改的,一旦设置,整个运行过程中不可动态修改。另外,该参数的默认值是8192MB,即使你的机器内存不够8192MB,YARN也会按照这些内存来使用(傻不傻?),因此,这个值通过一定要配置。不过,Apache已经正在尝试将该参数做成可动态修改的。

默认值:8192

(2) yarn.nodemanager.vmem-pmem-ratio

参数解释:每使用1MB物理内存,最多可用的虚拟内存数。

默认值:2.1

(3) yarn.nodemanager.resource.cpu-vcores

参数解释:NodeManager总的可用虚拟CPU个数

默认值:8

(4) yarn.nodemanager.local-dirs

参数解释:中间结果存放位置,类似于1.0中的mapred.local.dir。注意,这个参数通常会配置多个目录,已分摊磁盘IO负载。

默认值:${hadoop.tmp.dir}/nm-local-dir

(5) yarn.nodemanager.log-dirs

参数解释:日志存放地址(可配置多个目录)。

默认值:${yarn.log.dir}/userlogs

(6) yarn.nodemanager.log.retain-seconds

参数解释:NodeManager上日志最多存放时间(不启用日志聚集功能时有效)。

默认值:10800(3小时)

(7) yarn.nodemanager.aux-services

参数解释:NodeManager上运行的附属服务。需配置成mapreduce_shuffle,才可运行MapReduce程序

默认值:“”

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: resourcemanager无法启动可能是由于以下原因: 1. 配置文件错误:检查配置文件中是否存在错误或缺失的参数。 2. 端口冲突:检查端口是否被其他进程占用。 3. 内存不足:检查系统内存是否足够支持resourcemanager的运行。 4. 权限问题:检查当前用户是否具有启动resourcemanager的权限。 解决方法: 1. 检查配置文件并修复错误或缺失的参数。 2. 检查端口并释放被占用的端口。 3. 增加系统内存或减少其他进程的内存占用。 4. 以管理员身份运行resourcemanager。 ### 回答2: ResourcemanagerHadoop中的重要组件之一,是整个Hadoop集群的资源管理器,控制着集群中各个节点的资源分配和任务调度。如果Resourcemanager无法启动,很可能会导致整个Hadoop集群无法正常工作。 造成Resourcemanager无法启动的原因可能有很多种,下面列举几种可能的原因及解决方法: 1.端口冲突:Resourcemanager默认绑定端口为8088,如果其他程序占用了该端口,就会影响Resourcemanager的启动。解决方法是找到占用8088端口的程序并关闭它。 2.配置文件错误:如果配置文件中存在错误,比如格式不正确或者缺少必要的配置项,就会导致Resourcemanager无法启动。解决方法是检查配置文件并修复错误。 3.JVM内存不足:如果Resourcemanager占用的内存超过了JVM分配给它的内存大小,就会导致Resourcemanager无法启动。解决方法是增加JVM分配的内存大小,可以通过配置文件或者命令行参数来实现。 4.权限问题:Resourcemanager需要访问Hadoop集群中的其他节点,如果没有足够的权限访问这些节点,就会导致Resourcemanager无法启动。解决方法是检查权限设置并修复问题。 5.网络连接问题:如果Resourcemanager与其他节点的网络连接出现问题,比如网络延迟过高或者节点宕机等,就会导致Resourcemanager无法启动。解决方法是检查网络连接并修复问题。 总之,要解决Resourcemanager无法启动的问题,我们需要对其启动过程进行全面的排查,并找到具体的原因,针对性地进行解决,才能使整个Hadoop集群能够正常工作。 ### 回答3: resourcemanagerHadoop集群中的组件,它们负责管理和分配集群资源。如果resourcemanager无法启动,可能会导致整个集群无法正常运行。以下是可能导致resourcemanager无法启动的一些常见问题和解决方法。 1. 内存不足或磁盘空间不足。resourcemanager需要一定的系统资源才能正常工作。如果系统内存或磁盘空间不足,可能会导致resourcemanager无法启动。解决方法是增加系统内存或清理磁盘空间。 2. 配置错误。resourcemanager配置文件可能出现错误,导致无法启动。可以检查配置文件中的参数是否正确,并尝试重新启动resourcemanager。 3. 端口被占用。resourcemanager使用一些默认端口来与其他组件通信。如果这些端口已经被其他程序占用,可能会导致resourcemanager无法启动。可以使用netstat命令检查端口占用情况,并尝试更改端口号或关闭占用端口的程序。 4. 安全问题。如果resourcemanager的安全设置不正确,可能会导致无法启动。可以检查安全配置文件,例如core-site.xml和hdfs-site.xml,确保安全设置正确。 5. 日志文件损坏或丢失。如果resourcemanager的日志文件损坏或丢失,可能会导致无法启动。可以尝试修复损坏的日志文件或恢复丢失的日志文件。 总之,如果resourcemanager无法启动,需要逐步排除以上问题,确定具体原因,并采取相应措施。只有确保resourcemanager正常运行,才能确保整个Hadoop集群的正常运转。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值