Hadoop3.x修改默认配置

有时集群可能与现有端口冲突,或者出于安全考虑会要修改默认端口或存储。下面列出了整理的常用配置项。

一、修改默认端口

涉及组件配置项默认端口修改后端口配置文件
zookeeper端口2181123XX
zkui9093123XX/app/zkui/config.cfg
hadoopnamenode的web访问9870123XXhdsf-site.xml / dfs.namenode.http-address.mycluster.nn1
hadoopnamenode的RPC地址8020123XXhdsf-site.xml / dfs.namenode.rpc-address.mycluster.nn1
hadoop历史服务器10020123XXmapred-site.xml / mapreduce.jobhistory.address
hadoop历史服务器web19888123XXmapred-site.xml / mapreduce.jobhistory.webapp.address
yarnwebapp地址8088123XXyarn-site.xml / yarn.resourcemanager.webapp.address yarn.resourcemanager.webapp.address.rm1
yarn日志聚集服务19888123XXyarn-site.xml / yarn.log.server.url
hivemetastore9083123XXhive-site.xml / hive.metastore.port
hivehive.metastore.uris9083123XXhive-site.xml / hive.metastore.uris
hivewebui10002123XXhive-site.xml / hive.server2.webui.port
hivethrift10000123XXhive-site.xml / hive.server2.thrift.port
hivethrift http10001123XXhive-site.xml / hive.server2.thrift.http.port
123XX同步修改hivectl.sh脚本中的端口
hiveRPC port for LLAP15004123XXhive-site.xml / hive.llap.management.rpc.port
hiveYARN shuffle port for LLAP15551123XXhive-site.xml / hive.llap.daemon.yarn.shuffle.port
hiveLLAP daemon web UI15002123XXhive-site.xml / hive.llap.daemon.web.port
hiveLLAP daemon output service15003123XXhive-site.xml / hive.llap.daemon.output.service.port
sparkspark webui8081123XXspark-env.sh / SPARK_MASTER_WEBUI_PORT
sparkspark master port7077123XXspark-env.sh / SPARK_MASTER_PORT
sparkspark master port7077123XXspark-defaults.conf / spark.master
sparkspark.ui.port4040123XXspark-defaults.conf / spark.ui.port
hbasehbase.master.port16000123XXhbase-site.xml / hbase.master.port
hbasemaster webui16010123XXhbase-site.xml / hbase.master.info.port
hbaseregionserver port16201123XXhbase-site.xml / hbase.regionserver.port
hbaseregionserver web16301123XXhbase-site.xml / hbase.regionserver.info.port
dolphinschedulerapiserver12345123XX

二、修改默认存储

涉及组件配置文件新的配置
zookeeperzoo.cfg / dataDir/appdata1/zookeeper/zdata/data
zookeeperzoo.cfg / dataLogsDir/appdata1/zookeeper/zdata/logs
hadoopcore-site.xml / hadoop.tmp.dir/appdata1/hadoop/tmp
hadoophdfs-site.xml / dfs.journalnode.edits.dir/appdata1/hadoop/journalnode
hivehive-site.xml / hive.exec.local.scratchdir/appdata1/hive/tmp/hiveuser
hivehive-site.xml / hive.downloaded.resources.dir/appdata1/hive/tmp/${hive.session.id}_resources
hivehive-site.xml / hive.server2.logging.operation.log.location/appdata1/hive/tmp/operation_logs
hbasehbase-site.xml / hbase.tmp.dir/appdata1/hbase/tmp

注:

  1. 记得移动原目录/appdata下的文件到新目录

  2. 记得删除zk中/hbase目录(若HMaster启动失败)

欢迎关注公众号,回复hadoop,获取从零开始Hadoop系列完整文档

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值