hadoop集群下各项配置文件部署,yarn-site.xml、hdfs-site.xml等详细版(待持续更新)

一、yarn-site.xml文件配置,下放resourcemanager简称RM

参数默认值(default) 备注
yarn.resourcemanager.hostnameRM的hostname
yarn.resourcemanager.scheduler.address ${yarn.resourcemanager.hostname}:8030RM对AM暴露的地址,AM通过地址想RM申请资源,释放资源等
yarn.resourcemanager.address  ${yarn.resourcemanager.hostname}:8032RM对客户端暴露的地址,客户端通过该地址向RM提交应用程序等
yarn.resourcemanager.webapp.address${yarn.resourcemanager.hostname}:8088RM对外暴露的web  http地址,用户可通过该地址在浏览器中查看集群信息
yarn.resourcemanager.webapp.https.address ${yarn.resourcemanager.hostname}:8090web https 地址
yarn.resourcemanager.resource-tracker.address${yarn.resourcemanager.hostname}:8031RM对NM暴露地址,NM通过该地址向RM汇报心跳,领取任务等
yarn.resourcemanager.resource-tracker.client.thread-count50处理来自NM的RPC请求的handler数
yarn.resourcemanager.admin.address${yarn.resourcemanager.hostname}:8033管理员可以通过该地址向RM发送管理命令等

      

二、yarn-site.xml资源调度器:

参数默认值(default)备注
yarn.resourcemanager.scheduler.client.thread-count 50处理来自AM的RPC请求的handler数
yarn.scheduler.maximum-allocation-mb8192可申请的最大内存资源,以MB为单位
yarn.scheduler.minimum-allocation-mb1024可申请的最少内存资源,以MB为单位
yarn.scheduler.maximum-allocation-vcores        32可申请的最 大虚拟CPU个数
yarn.scheduler.minimum-allocation-vcores        1可申请的最小虚拟CPU个数

yarn.log-aggregation-enable        
        

false是否启用日志聚合
yarn.nodemanager.remote-app-log-dir/tmp/logs日志聚合目录
yarn.nodemanager.resource.memory-mb8192 NM总的可用物理内存,以MB为单位。一旦设置,不可动态修改
yarn.nodemanager.resource.cpu-vcores        8可分配的CPU个数
yarn.nodemanager.aux-servicesNodeManager上运行的附属服务。需配置成mapreduce_shuffle,才可运行MapReduce程序
yarn.nodemanager.local-dirs       ${hadoop.tmp.dir}/nm-local-dir 中间结果存放位置,可配置多目录

三、hdfs-site.xml:

参数默认值(default)备注

未完,待续更新.......

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值