一、yarn-site.xml文件配置,下放resourcemanager简称RM
参数 | 默认值(default) | 备注 |
yarn.resourcemanager.hostname | RM的hostname | |
yarn.resourcemanager.scheduler.address | ${yarn.resourcemanager.hostname}:8030 | RM对AM暴露的地址,AM通过地址想RM申请资源,释放资源等 |
yarn.resourcemanager.address | ${yarn.resourcemanager.hostname}:8032 | RM对客户端暴露的地址,客户端通过该地址向RM提交应用程序等 |
yarn.resourcemanager.webapp.address | ${yarn.resourcemanager.hostname}:8088 | RM对外暴露的web http地址,用户可通过该地址在浏览器中查看集群信息 |
yarn.resourcemanager.webapp.https.address | ${yarn.resourcemanager.hostname}:8090 | web https 地址 |
yarn.resourcemanager.resource-tracker.address | ${yarn.resourcemanager.hostname}:8031 | RM对NM暴露地址,NM通过该地址向RM汇报心跳,领取任务等 |
yarn.resourcemanager.resource-tracker.client.thread-count | 50 | 处理来自NM的RPC请求的handler数 |
yarn.resourcemanager.admin.address | ${yarn.resourcemanager.hostname}:8033 | 管理员可以通过该地址向RM发送管理命令等 |
二、yarn-site.xml资源调度器:
参数 | 默认值(default) | 备注 |
yarn.resourcemanager.scheduler.client.thread-count | 50 | 处理来自AM的RPC请求的handler数 |
yarn.scheduler.maximum-allocation-mb | 8192 | 可申请的最大内存资源,以MB为单位 |
yarn.scheduler.minimum-allocation-mb | 1024 | 可申请的最少内存资源,以MB为单位 |
yarn.scheduler.maximum-allocation-vcores | 32 | 可申请的最 大虚拟CPU个数 |
yarn.scheduler.minimum-allocation-vcores | 1 | 可申请的最小虚拟CPU个数 |
yarn.log-aggregation-enable | false | 是否启用日志聚合 |
yarn.nodemanager.remote-app-log-dir | /tmp/logs | 日志聚合目录 |
yarn.nodemanager.resource.memory-mb | 8192 | NM总的可用物理内存,以MB为单位。一旦设置,不可动态修改 |
yarn.nodemanager.resource.cpu-vcores | 8 | 可分配的CPU个数 |
yarn.nodemanager.aux-services | NodeManager上运行的附属服务。需配置成mapreduce_shuffle,才可运行MapReduce程序 | |
yarn.nodemanager.local-dirs | ${hadoop.tmp.dir}/nm-local-dir | 中间结果存放位置,可配置多目录 |
三、hdfs-site.xml:
参数 | 默认值(default) | 备注 |
未完,待续更新.......